Human-in-the-loop, mandat og stopregler for AI-agenter
Human-in-the-loop er én kontrolform. For digitale medarbejdere er det vigtigere at definere mandat, stopregler og eskalering ved undtagelser.
Kort svar
Human-in-the-loop er ikke målet i sig selv. Målet er en digital medarbejder med et klart mandat: den arbejder selvstændigt inden for rammerne og eskalerer kun de sager, der rammer stopreglerne. Mennesker skal sætte retning, ansvar og grænser — ikke godkende hvert trin.
Problemet i praksis
Virksomheden vil spare tid, men har brug for klare rammer før AI må sende, ændre eller beslutte.
Medarbejdere mister tillid hvis agenten virker som en sort boks.
Kontrol bliver en manuel flaskehals, hvis alt kræver godkendelse i stedet for klare stopregler.
Hvad ændrer sig med en digital medarbejder?
Agenten gør arbejdet selv inden for mandatet, så mennesket kun tager undtagelserne.
Stopregler placeres efter risiko i stedet for at kræve godkendelse overalt.
Over tid kan lavrisiko-trin automatiseres mere.
Sådan starter man uden at overbygge
- 1
Del flowet i “må gøre selv”, “må forberede” og “skal eskalere”.
- 2
Lav klare stopregler for eksterne beskeder, økonomi, persondata og juridiske vurderinger.
- 3
Når noget eskaleres, skal mennesket se kort begrundelse, kilder og foreslået næste handling.
Risici der skal styres
- For mange approvals, så den digitale medarbejder ikke får reel autonomi.
- For uklare stopregler, så fejl når kunder eller systemer.
- Utydeligt ansvar mellem agent og medarbejder.
Kilder og videre læsning
Developer resources om agentbygning, tools, evaluering og drift af AI-systemer.
LangGraphAgent orchestration med state, memory og kontrollerede approval-/eskaleringsflows.
Anthropic: Building effective agentsSkelner mellem workflows og agents; anbefaler simple, komponerbare patterns.
Digitaliseringsstyrelsen: AI-forordningenDansk myndighedsoverblik over AI-forordningen.
Relaterede sider
Agent governance: styring af digitale medarbejdere
Agent governance handler om roller, adgang, mandat, stopregler, audit logs og ansvar for AI-agenter i drift.
Agent gateway: kontrolpunktet mellem AI-agenter og virksomheden
En agent gateway kan samle adgang, kanaler, logs og stopregler for digitale medarbejdere. Her er den praktiske forklaring.
Audit logs for AI-agenter
Hvis en AI-agent handler i systemer, skal man kunne se hvad den gjorde. Audit logs er fundamentet for tillid og drift.
Digital medarbejder til ticket-triage
En digital medarbejder kan sortere support-sager, finde kontekst og sende de rigtige sager videre med bedre overblik.
Digital medarbejder til kontraktgennemgang
En digital medarbejder kan læse kontrakter, finde afvigelser og forberede overblik — uden at erstatte juridisk vurdering.
Agentic AI forklaret for danske virksomheder
Agentic AI betyder AI der kan planlægge og handle i flere trin. Her er den praktiske forklaring uden hype.