Stackship AI HubEarly access

Er egen AI-gateway. Alla AI-anrop går genom en punkt som ni styr.

Stackship AI Hub ligger framför era modelleverantörer. Varje anrop prövas mot den virtuella nyckeln och dess AI-profil, hålls inom budget och gränser och skickas till rätt leverantör.

  • OpenAI-kompatibelt API
  • Budget i kronor per nyckel
  • Inget promptinnehåll sparas

Det som ingår

AI Hub levereras som en blueprint på Stackship. En container kör anropen, administrationen och webbgränssnittet.

En OpenAI-kompatibel endpoint

Chatt med strömning och verktyg, embeddings, bilder och video på samma adress. Varje OpenAI-SDK fungerar när basadressen byts.

Flera leverantörer

OpenAI-kompatibla servrar som vLLM, Ollama, Mistral och Berget.ai, samt Azure OpenAI och Anthropic. Automatiskt modellval tar den modell som nyckeln får använda och som klarar uppgiften.

GPU-runners på egna kort

Kör egna modeller på egna NVIDIA-kort. Ett installationskommando på servern, sedan väljs modeller, kort och minnesandelar i webbgränssnittet, med GPU-data i realtid.

Virtuella nycklar med budget

En nyckel per person, tjänst eller plattformskomponent, var och en med en månadsbudget i kronor och gränser för antal anrop och tokens.

AI-profiler med klassning och residens

Profilen bestämmer vilka modeller en nyckel får använda, hur långa svar den får be om, vilka uppgifter den får skicka och om innehållet ska maskeras först. Den bär plattformens klassning av konfidentialitet, riktighet och tillgänglighet.

Gemensam MCP-katalog

Administratören publicerar MCP-servrar för AI Chat. Antingen går anropen via AI Hub med ett gemensamt konto, eller så loggar varje person in själv.

Inget promptinnehåll sparas

Anropsloggen sparar bara metadata: tokens, kostnad, status och svarstid. Tester säkerställer att ingen tabell kan rymma mer.

Kostnad i realtid

Kostnad per dag per modell, nyckel och avgränsad miljö, nycklar som närmar sig sin budget och nekade anrop, i en vy som uppdateras när anropen kommer in.

Policy per informationsklass

Organisationen bestämmer vilken modell som får se vilken data

I AI Hub hör varje nyckel till en AI-profil, och profilen anger vilka modeller nyckeln får använda. En policy kan se ut så här:

Känslig

Lokala modeller på egen hårdvara

Modellerna körs på era egna grafikkort via AI Hubs GPU-runners, och anropen stannar i huset.

Intern

Svensk modelltjänst

Modeller hos en leverantör med drift i Sverige, till exempel Berget.ai.

Öppen

Globala modeller

Leverantörer som OpenAI, Azure OpenAI eller Anthropic, om organisationen vill använda dem.

Lokal drift är ett val för den data som inte får lämna era egna väggar. Det går att börja med en modelltjänst och lägga till egna grafikkort senare.

Frågor

Det IT brukar fråga om först.

Hur kopplar vi in en befintlig app?

Byt basadress i appens OpenAI-SDK till AI Hub och ge appen en virtuell nyckel. Anropen går sedan genom AI Hub med nyckelns AI-profil, budget och gränser.

Sparas det vi skickar till modellerna?

Anropsloggen innehåller bara metadata. En administratör kan felsöka en enskild nyckel i upp till 24 timmar, och då sparas den nyckelns anrop krypterat och loggat. Det gäller aldrig nycklar vars AI-profil är klassad över en nivå som organisationen satt. Projekt som delas i AI Chat sparas krypterade tills projektet tas bort.

Måste vi köra modellerna lokalt?

Lokala modeller är ett val för data som inte får lämna era egna väggar. AI-profilerna avgör vilka modeller en nyckel får använda, så organisationen kan blanda egna grafikkort, en svensk modelltjänst och globala leverantörer efter informationsklass.

Hur installeras AI Hub?

AI Hub finns som en blueprint i Stackships katalog. Efter installationen loggar administratören in i webbgränssnittet och lägger till leverantörer och modeller. AI Hub registreras sedan i portalen, så att plattformstjänster som Sentinel kan använda den.

Hur får medarbetarna sina nycklar?

Varje person kan skapa egna nycklar inom de gränser som deras roll har. AI Chat hämtar en nyckel när personen loggar in, och den syns och kan återkallas i AI Hub.

Early access

Prova AI Hub

AI Hub finns i early access för organisationer som kör eller planerar att köra Stackship.

Få Early Access
SE DET LIVE

Få Early Access

Berätta vad du vill utforska och lämna din e-post, så hör vi av oss om Early Access.

Ingen förbindelse, bara ett samtal och en genomgång.

Den här webbplatsen skyddas av reCAPTCHA och Googles integritetspolicy och användarvillkor gäller.