Skrevet af Published
Kontrol og ansvar

Menneskelig kontrol med digitale medarbejdere

Menneskelig kontrol med digitale medarbejdere handler ikke om at godkende hvert trin, men om rolle, mandat, adgang, logs, stopregler og eskalering.

Kort svar

Menneskelig kontrol med en digital medarbejder betyder ikke, at et menneske skal godkende hvert eneste trin. Kontrol betyder, at virksomheden definerer rollen klart: hvad den digitale medarbejder må læse, hvilke redskaber den må bruge, hvilke lavrisiko-handlinger den må udføre, hvad den skal logge, og hvornår den skal stoppe og eskalere til en procesejer.

Problemet i praksis

Mange ledere kan godt se idéen i en digital medarbejder, men stopper ved spørgsmålet: hvem holder egentlig øje med den?

Hvis alt skal godkendes manuelt, bliver den digitale medarbejder bare en assistent med ventetid. Hvis rammerne er uklare, bliver den for svær at stole på.

Kontrolarbejdet falder ofte mellem ledelse, drift og IT: én vil have tempo, én vil have hjælp, og én vil begrænse adgang. Uden en konkret rolle bliver diskussionen abstrakt.

Hvad ændrer sig med en digital medarbejder?

Kontrol flyttes fra løst tilsyn til en praktisk jobbeskrivelse med ansvar, kilder, mandat, stopregler og procesejer.

Normale lavrisiko-trin kan køre autonomt inden for rammerne, mens undtagelser eskaleres med kilder og begrundelse.

Medarbejdere og ledere kan se, hvad den digitale medarbejder gør, hvad den ikke må gøre, og hvem der ejer opfølgningen.

Kontrol er ikke det samme som manuel godkendelse

Det er fristende at sige, at mennesker bare godkender alt. Det lyder trygt. Men i praksis gør det ofte den digitale medarbejder til endnu et udkastværktøj, som skubber arbejdet tilbage til mennesker.

Den bedre model er at give rollen et snævert mandat. Den må sortere, samle, prioritere, oprette interne opgaver eller opdatere lavrisiko-felter, når sagen er normal. Den skal stoppe, når sagen får økonomisk, juridisk, personalemæssig eller ekstern konsekvens.

Så bevarer virksomheden kontrol uden at fjerne al autonomi.

En god første version: fakturakontrol eller kundeservice-triage

En digital medarbejder til fakturakontrol kan læse aftalte bilagskilder, sammenholde leverandør, beløb, ordre og tidligere dialog og aflevere en afvigelsesliste. Den kan markere “klar til vurdering”, “mangler bilag” eller “ukendt leverandør”. Den bør ikke betale, ændre bankoplysninger eller bogføre endeligt i første version.

I kundeservice kan den læse indkomne henvendelser, finde relevant kundestatus, foreslå svar og oprette interne opgaver. Klager, vrede kunder, nøglekunder, persondata-usikkerhed eller løfter med konsekvens skal eskaleres.

Pointen er den samme: den digitale medarbejder fjerner forarbejde og følger op på normale sager. Mennesker tager undtagelser og ansvar.

Mandatet skal kunne læses af både drift og IT

Et brugbart mandat bør svare på simple spørgsmål: Hvilket arbejde ejer rollen? Hvilke kilder må den læse? Hvilke systemer må den bruge? Hvilke handlinger må den udføre selv? Hvad må den kun forberede? Hvornår stopper den? Hvem følger op?

Det gør adgangsstyring konkret. Den digitale medarbejder skal ikke have adgang til hele virksomheden, bare fordi den teknisk kan. Den skal have de rettigheder, rollen faktisk kræver.

Hvis rollen senere skal have mere autonomi, bør det ske efter logs, fejltyper og undtagelser er gennemgået.

Når den stopper, skal den aflevere et beslutningsgrundlag

Eskalering bør ikke bare være en besked om, at noget fejlede. Den digitale medarbejder bør aflevere et kort resumé, kilder, foreslået handling, årsag til stop og næste anbefalede skridt.

Det gør stopregler nyttige i hverdagen. Mennesket starter ikke forfra, men overtager en sag, hvor forarbejdet allerede er gjort.

Den form for kontrol er mere praktisk end en sort boks og mindre tung end godkendelse af hvert trin.

Hvad siden ikke lover

Menneskelig kontrol fjerner ikke alle risici. AI Act, GDPR, databehandling, leverandørvalg og systemadgang kræver konkrete vurderinger i den enkelte virksomhed.

Logs er heller ikke en garanti i sig selv. De virker kun, hvis nogen ejer dem, læser dem og bruger dem til at justere mandatet.

Derfor bør første version være smal. Hellere én rolle, der fungerer i drift, end en bred AI-løsning der ingen tør stole på.

Sådan starter man uden at overbygge

  1. 1

    Start med én afgrænset rolle, fx fakturakontrol, kundeservice-triage, debitoropfølgning eller mødeforberedelse.

  2. 2

    Definér input, redskaber og output: hvilke mails, systemvisninger, dokumenter eller felter må den læse, og hvad skal den aflevere?

  3. 3

    Skriv mandatet i tre niveauer: må gøre selv, må kun forberede, og skal eskalere. Tilføj logning og en procesejer, der kan justere rollen i drift.

Risici der skal styres

  • At bruge “menneskelig kontrol” som tom tryghedsformulering uden konkrete rammer.
  • At gøre godkendelse af hvert trin til standard, så rollen aldrig får reel autonomi.
  • At give skriveadgang, økonomiske handlinger eller ekstern kommunikation før stopregler, logs og ansvar er afklaret.

Kilder og videre læsning

NIST: AI Risk Management Framework

AI-risiko bør identificeres, måles, styres og følges op som en løbende praksis.

 OWASP Top 10 for LLM Applications

Kendte LLM- og agentrisici, blandt andet prompt injection, datalæk og excessive agency.

 Digitaliseringsstyrelsen: AI-forordningen

Dansk myndighedsoverblik over AI-forordningen.

 Datatilsynet: Kunstig intelligens

AI, databeskyttelse og regulatorisk sandkasse.

 Microsoft Entra Agent ID

Identitet, governance og audit for AI-agenter.

 Microsoft Learn: Microsoft 365 Copilot privacy and security

Enterprise-AI kræver eksplicit styring af adgang, permissions, databehandling og tenantdata.

Relaterede sider

Hvad er en digital medarbejder?

Definition og praktisk forklaring af digitale medarbejdere som roller med ansvar, redskaber, mandat og stopregler.

Sådan arbejder vi med digitale medarbejdere

Se den praktiske proces: fra én konkret opgave til en digital medarbejder med kilder, mandat, logs, stopregler og drift.

Hvordan sætter man mandat, guardrails og stopregler?

En praktisk model for at give en digital medarbejder autonomi med klare rammer: rolle, kilder, handlinger, stopregler, logs og procesejer.

FAQ for ledere om digitale medarbejdere

Korte svar til ledere: hvad en digital medarbejder er, hvad den kræver, hvor kontrollen ligger, og hvornår man bør lade være.

FAQ for medarbejdere om digitale medarbejdere

Korte svar til medarbejdere: hvad en digital medarbejder gør, hvad den ikke må, hvem der har ansvar, og hvordan den bruges i hverdagen.

Hvad kræver det af virksomheden?

En digital medarbejder kræver ikke perfekt data eller et stort projekt. Se hvad virksomheden skal have styr på: opgave, ejer, kilder, adgang, mandat og stopregler.

Er en digital medarbejder bare ChatGPT?

ChatGPT kan hjælpe med enkeltstående svar. En digital medarbejder er en rolle med ansvar, redskaber, mandat, logs og stopregler.

Bliver det et stort IT-projekt?

En digital medarbejder kan starte som en smal rolle oven på eksisterende systemer. Se hvordan man undgår at gøre første version for stor.

Ofte stillede spørgsmål

Skal et menneske godkende alt, hvad en digital medarbejder gør?
Nej, ikke som standard. Et menneske bør eje mål, mandat og undtagelser. Den digitale medarbejder kan arbejde selv i normale lavrisiko-sager, hvis den har klare stopregler og synlig log.
Hvem har ansvaret, hvis noget går galt?
Virksomheden skal stadig have en procesejer. Den digitale medarbejder må ikke eje sit eget ansvar. Praktisk bør ansvar understøttes af mandat, kilder, logs, stopregler og en aftalt eskaleringsvej. Det er ikke juridisk rådgivning.
Kan den få adgang til kundedata eller økonomisystemer?
Kun hvis rollen kræver det, og adgangen er afgrænset. En god første version læser ofte bestemte mapper, felter eller systemvisninger og undgår brede rettigheder, betalinger, bogføring og andre handlinger med høj konsekvens.
Hvordan ved vi, hvad den har gjort?
Kontrol kræver logning. Den bør kunne vise, hvilke kilder den brugte, hvilke værktøjer den kaldte, hvad den foreslog eller gjorde, og hvorfor den stoppede eller eskalerede.
Hvornår er almindelig automatisering nok?
Hvis processen er fast, input er ens, og risikoen er lav, er et workflow, en regel eller et godkendelsesflow ofte nok. En digital medarbejder giver mere mening, når opgaven kræver kontekst, vurdering og ansvar på tværs af kilder.
Hvordan forklarer man kontrollen til medarbejderne?
Forklar den som en rolle, ikke som løs AI. Sig hvad den læser, hvad den afleverer, hvad den må gøre selv, hvad den aldrig må gøre, og hvem den eskalerer til.

Vil du finde den første digitale medarbejder i jeres virksomhed?

Skriv til Mikkel