Nu kan du selvhoste Claude Managed Agents

Anthropic lader dig nu selvhoste Claude-agenter i egen sky eller on-premise. Server, sandboxes, nøgler og sessionshistorik bliver hos dig.

Nu kan du selvhoste Claude Managed Agents

Du kan nu selvhoste Claude-agenter. Anthropic sendte 12. november en selvhostet udgave af Claude Managed Agents i privat beta, og den flytter hele platformen ind i dit eget miljø: serveren, der styrer agenterne, sandboxene, hvor de kører kommandoer, adgangsnøglerne og hele sessionshistorikken. Det kan være en konto i jeres egen sky eller et datacenter on-premise.

Indtil nu kørte Claude Managed Agents i Anthropics sky. Siden maj har du kunnet flytte værktøjerne hjem, men selve tjenesten og historikken lå stadig hos Anthropic. Ville du have det hele bag din egen firewall, måtte du bygge platformen selv. Det har Spotify gjort med agenten Honk, der kører Claude gennem Agent SDK i Kubernetes, så den kan køre builds i firmaets egne CI-systemer. Den slags platform kan du nu få som færdigt produkt.

Det kører hos dig, når du selvhoster Claude-agenter

Anthropic leverer en server, cma-server, som du selv driver. Den rummer API'et, agent-loopet og lagringen af agenter og sessioner. Ved siden af kører workers, der henter opgaver fra serveren og udfører agentens shell- og filkommandoer i hver sin container eller pod. Historikken gemmes i PostgreSQL 16 eller nyere. Uden en database ligger alt i hukommelsen og forsvinder ved genstart.

Diagram over selvhostet Claude Managed Agents: applikationer, cma-server, PostgreSQL og workers kører i dit eget netværk, mens samtalen sendes til en inferensudbyder og usage signals sendes til Anthropic

Det vigtige for udviklerne er, at intet ændrer sig i koden. Den selvhostede server har samme API som Anthropics udgave, så SDK'et, kommandolinjeværktøjet ant og resten af dokumentationen virker uændret. Der følger en webkonsol med, hvor medarbejdere logger ind via jeres egen identitetsudbyder og opretter agenter og sessioner. Hemmeligheder som API-nøgler til interne systemer kan ligge i jeres egen secrets manager, og en proxy uden for sandboxen sætter dem på ved hvert kald, så agenten aldrig selv ser dem.

Anthropic nævner opgaver som at reparere fejlede builds, teste udgivelser, sortere alarmer og rydde op i fejllister. Det er AI-agenter med adgang til interne systemer som private kodebaser og byggesystemer. Netop dér giver det mening, at både agenten og alt, den har set, bliver i huset.

Tre måder at køre Claude Managed Agents på

Med den nye udgave findes tjenesten i tre varianter. Forskellen er, hvor meget du selv driver.

Variant Sandboxes Tjeneste og historik Model
Cloud (standard) Anthropic Anthropic Anthropic
Egne sandboxes Dig Anthropic Anthropic
Selvhostet Dig Dig Anthropic eller en udbyder, du vælger

Anthropic anbefaler selv den selvhostede udgave i to situationer: når agenter, sessioner og historik skal gemmes på jeres egen infrastruktur, og når modelkaldene skal gå til Amazon Bedrock, Claude-modellerne på Google Cloud, Microsoft Foundry eller jeres egen gateway. Skal kun værktøjerne køre hos dig, er egne sandboxes nok, og så slipper du for at drive serveren.

For selvhosting er der ikke offentliggjort pris eller dato for generel tilgængelighed, og adgang går gennem Anthropics salgsteam. Den hostede udgave koster almindelige tokenpriser plus 0,08 dollar, omkring 50 øre, pr. time en session kører.

Det, der stadig forlader netværket

Selvhostet betyder ikke, at modellen kører hos dig. Ved hvert kald sender serveren hele samtalen indtil da, inklusive værktøjernes input og resultater, til den inferensudbyder, du har valgt. Standard er Anthropics eget API, og kald dertil får også sessionens, agentens og miljøets ID med.

Skal data blive i EU, er valget af udbyder derfor det vigtigste, du gør. Anthropics eget API har ifølge flere gennemgange kun amerikansk eller global behandling. Bedrock har Claude i flere EU-regioner, blandt andet Stockholm og Frankfurt, og Google Cloud har EU-endpoints. Har din organisation en aftale med Anthropic om, at data ikke gemmes (zero data retention), gælder den også for kald fra den selvhostede server.

Til gengæld får du ansvaret for det, Anthropic ellers passer. Du sikrer selv serveren, holder øje med usædvanligt forbrug og installerer hver ny version. Dokumentationen advarer også om, at agentens bash-værktøj er en rigtig shell med workerens rettigheder. Isolationen kommer kun fra den container eller VM, workeren kører i, så den må ikke indeholde noget, du ikke vil miste.

Licensen følger med ind i dit datacenter

Serveren er en lukket binær fil, som du ikke må ændre i, og den kommer med en licens, hvor Anthropic beholder en del kontrol. The New Stack har gennemgået den, og de vigtigste vilkår er:

  • Efter et skriftligt sikkerhedsvarsel har du 8 timer til at slå en funktion fra eller rulle en version tilbage, og en udpeget sikkerhedsopdatering skal være installeret inden for én arbejdsdag.
  • Softwaren kan sende "usage signals" til Anthropic, og dem må du ikke blokere eller ændre.
  • Anthropic kan beslutte, at nogle Claude-modeller kun må bruges via den hostede tjeneste, og andre producenters modeller må ikke bruges uden tilladelse.
  • For kunder i EØS gælder irsk ret.

Analytikeren Patrick Moorhead fra Moor Insights & Strategy forventer, at banker og offentlige myndigheder vil stejle over fristen og signalerne. Hans kollega Jason Andersen kalder vilkårene rimelige og peger på, at den, der vil have fuld kontrol over sine agenter, alligevel kigger mod åbne modeller. Den vej er blevet kortere i år, hvor det er lykkedes at køre store open-weight-modeller lokalt på almindelig hardware.

For de fleste, der allerede bruger Claude og har ventet på at kunne flytte agenterne hjem, ændrer licensen ikke billedet. De får den samme platform, det samme API og de samme agenter som før, nu med nøglerne, historikken og værktøjerne i eget hus.

Kilde: The New Stack

Michael Nielsen

Michael Nielsen er datamatiker og AI-konsulent hos Nordium, hvor han udvikler AI-agenter, automatiserede arbejdsgange, plugins og specialudviklede systemer. Han skriver om AI fra udviklerens side: hvad der virker i praksis, og hvad der er hype. Mere om Michael