Er egen AI-gateway. Alla AI-anrop går genom en punkt som ni styr.
Stackship AI Hub ligger framför era modelleverantörer. Varje anrop prövas mot den virtuella nyckeln och dess AI-profil, hålls inom budget och gränser och skickas till rätt leverantör.
- OpenAI-kompatibelt API
- Budget i kronor per nyckel
- Inget promptinnehåll sparas
Det som ingår
AI Hub levereras som en blueprint på Stackship. En container kör anropen, administrationen och webbgränssnittet.
En OpenAI-kompatibel endpoint
Chatt med strömning och verktyg, embeddings, bilder och video på samma adress. Varje OpenAI-SDK fungerar när basadressen byts.
Flera leverantörer
OpenAI-kompatibla servrar som vLLM, Ollama, Mistral och Berget.ai, samt Azure OpenAI och Anthropic. Automatiskt modellval tar den modell som nyckeln får använda och som klarar uppgiften.
GPU-runners på egna kort
Kör egna modeller på egna NVIDIA-kort. Ett installationskommando på servern, sedan väljs modeller, kort och minnesandelar i webbgränssnittet, med GPU-data i realtid.
Virtuella nycklar med budget
En nyckel per person, tjänst eller plattformskomponent, var och en med en månadsbudget i kronor och gränser för antal anrop och tokens.
AI-profiler med klassning och residens
Profilen bestämmer vilka modeller en nyckel får använda, hur långa svar den får be om, vilka uppgifter den får skicka och om innehållet ska maskeras först. Den bär plattformens klassning av konfidentialitet, riktighet och tillgänglighet.
Gemensam MCP-katalog
Administratören publicerar MCP-servrar för AI Chat. Antingen går anropen via AI Hub med ett gemensamt konto, eller så loggar varje person in själv.
Inget promptinnehåll sparas
Anropsloggen sparar bara metadata: tokens, kostnad, status och svarstid. Tester säkerställer att ingen tabell kan rymma mer.
Kostnad i realtid
Kostnad per dag per modell, nyckel och avgränsad miljö, nycklar som närmar sig sin budget och nekade anrop, i en vy som uppdateras när anropen kommer in.
Organisationen bestämmer vilken modell som får se vilken data
I AI Hub hör varje nyckel till en AI-profil, och profilen anger vilka modeller nyckeln får använda. En policy kan se ut så här:
Lokala modeller på egen hårdvara
Modellerna körs på era egna grafikkort via AI Hubs GPU-runners, och anropen stannar i huset.
Svensk modelltjänst
Modeller hos en leverantör med drift i Sverige, till exempel Berget.ai.
Globala modeller
Leverantörer som OpenAI, Azure OpenAI eller Anthropic, om organisationen vill använda dem.
Lokal drift är ett val för den data som inte får lämna era egna väggar. Det går att börja med en modelltjänst och lägga till egna grafikkort senare.
Frågor
Det IT brukar fråga om först.
Hur kopplar vi in en befintlig app?
Byt basadress i appens OpenAI-SDK till AI Hub och ge appen en virtuell nyckel. Anropen går sedan genom AI Hub med nyckelns AI-profil, budget och gränser.
Sparas det vi skickar till modellerna?
Anropsloggen innehåller bara metadata. En administratör kan felsöka en enskild nyckel i upp till 24 timmar, och då sparas den nyckelns anrop krypterat och loggat. Det gäller aldrig nycklar vars AI-profil är klassad över en nivå som organisationen satt. Projekt som delas i AI Chat sparas krypterade tills projektet tas bort.
Måste vi köra modellerna lokalt?
Lokala modeller är ett val för data som inte får lämna era egna väggar. AI-profilerna avgör vilka modeller en nyckel får använda, så organisationen kan blanda egna grafikkort, en svensk modelltjänst och globala leverantörer efter informationsklass.
Hur installeras AI Hub?
AI Hub finns som en blueprint i Stackships katalog. Efter installationen loggar administratören in i webbgränssnittet och lägger till leverantörer och modeller. AI Hub registreras sedan i portalen, så att plattformstjänster som Sentinel kan använda den.
Hur får medarbetarna sina nycklar?
Varje person kan skapa egna nycklar inom de gränser som deras roll har. AI Chat hämtar en nyckel när personen loggar in, och den syns och kan återkallas i AI Hub.
Prova AI Hub
AI Hub finns i early access för organisationer som kör eller planerar att köra Stackship.
Få Early AccessFå Early Access
Berätta vad du vill utforska och lämna din e-post, så hör vi av oss om Early Access.
Ingen förbindelse, bara ett samtal och en genomgång.
Den här webbplatsen skyddas av reCAPTCHA och Googles integritetspolicy och användarvillkor gäller.