AI-agent-handoff: wanneer je product moet vragen, handelen of stoppen
Bepaal wanneer een AI-agent moet vragen, binnen duidelijke kaders zelf moet handelen of moet stoppen en overdragen aan een mens. Met echte data en een direct bruikbaar contract.
Een AI-agent-handoff is het moment waarop een AI-functionaliteit de controle teruggeeft aan een mens: om ontbrekende informatie te vragen, om goedkeuring te krijgen voor een ingrijpende actie, of om simpelweg te stoppen en iemand het over te laten nemen. Een handoffcontract legt vóór de lancering vast wanneer het product moet vragen, wanneer het zelfstandig mag handelen en wanneer het moet stoppen — én wat de gebruiker in elk van die situaties te zien krijgt.
Belangrijkste inzichten
Agents stoppen uit zichzelf al vaker dan dat mensen hen onderbreken. In een studie van Anthropic naar ongeveer 500.000 Claude Code-sessies vroeg de agent bij de moeilijkste taken ruim twee keer zo vaak om opheldering als bij eenvoudige taken, en vaker dan dat menselijke gebruikers ingrepen (Anthropic, 2026).
De voornaamste reden waarom de agent pauzeerde, was om een keuze tussen verschillende aanpakken voor te leggen (35%). De belangrijkste reden waarom mensen ingrepen, was om ontbrekende context of correcties aan te leveren (32%). Beide zijn problemen met de productcontext, geen problemen van het onderliggende model.
De agenthandleiding van OpenAI noemt twee triggers voor menselijk ingrijpen: het overschrijden van foutdrempels en risicovolle acties die gevoelig, onomkeerbaar of ingrijpend zijn (OpenAI).
Zekerheid van het model is geen toestemming. ‘90% zeker’ geeft nog geen mandaat om een e-mail te versturen of een klantrecord aan te passen.
Een menselijke beoordelaar is niet automatisch een vangnet. Uit een gebundelde analyse bleek dat onjuist advies van beslissingsondersteunende systemen het risico op een verkeerde menselijke beslissing met 26% verhoogde (Goddard et al., 2012).
Wat is een AI-agent-handoff?
De term heeft twee betekenissen, en het helpt om die uit elkaar te houden.
Agent-naar-agent-handoff. In de Agents SDK van OpenAI stellen handoffs een agent in staat om een taak te delegeren aan een andere agent, zoals een triage-agent die een restitutieverzoek doorgeeft aan een restitutie-agent. Het model ziet elke overdracht als een tool, bijvoorbeeld transfer_to_refund_agent (OpenAI Agents SDK). De handleiding van OpenAI omschrijft dit als een eenrichtingsoverdracht die de gespreksstatus met zich meeneemt.
Agent-naar-mens-handoff. De agent draagt de controle over aan een persoon omdat deze niet verder kan of mag gaan. De handleiding van OpenAI geeft twee voorbeelden: in de klantenservice escaleren naar een menselijke medewerker; bij een programmeeragent de controle teruggeven aan de gebruiker.
Dit artikel gaat over die tweede vorm: een productbeslissing, geen orchestratiedetail. Een productagent kan een volgende stap aanbevelen, deze voorbereiden of deze daadwerkelijk uitvoeren. Dat zijn drie wezenlijk verschillende gedragingen, zelfs als er op het scherm gewoon één vriendelijke knop met “Doorgaan” staat. De vraag die een handoffcontract beantwoordt is: wat mag dit product namens de gebruiker beslissen, met welke informatie, en wat gebeurt er als het antwoord onzeker is?
Gebruikers hechten hier veel waarde aan. In het gebruikersonderzoek van Stack Overflow uit 2025 maakte 86,9% van de developers zich zorgen over de nauwkeurigheid van informatie van AI-agents, en had 81,4% zorgen over de veiligheid en privacy van hun data bij het gebruik ervan (Stack Overflow, 2025). Een helder overdrachtsbeleid pakt beide aan: de agent onderneemt minder bij zwak bewijs en raakt minder aan zonder uitdrukkelijke toestemming.
Dat is productwerk bij uitstek. De PM brengt het domeininhoudelijke oordeel in: wat geldt als een acceptabele actie, welke afwegingen zijn acceptabel en bij welke fouten moet de gebruiker het stuur overnemen? Engineers vertalen dat beleid naar betrouwbaar gedrag in productie. De PM neemt het eigenaarschap van de code niet over.
Waarom is “human in the loop” te vaag voor een AI-agent?
Een briefing waarin staat “we houden een human in the loop” laat de cruciale vragen onbeantwoord:
Wie kijkt er mee, en heeft die persoon genoeg context om te kunnen oordelen?
Beoordeelt diegene een suggestie, een concept of een actie die al is uitgevoerd?
Kan diegene de actie nog aanpassen, of alleen goedkeuren?
Wat gebeurt er als er niemand reageert?
Welke fouten mogen simpelweg nooit worden gedelegeerd?
Bestaande kaders vragen teams om deze punten uit te werken, maar geven de antwoorden niet voor je. Het NIST AI Risk Management Framework 1.0 vraagt organisaties om rollen te definiëren voor mens-AI-configuraties (GOVERN 3.2), processen voor menselijk toezicht vast te leggen (MAP 3.5) en mechanismen in te richten om een AI-systeem dat buiten het beoogde gebruik treedt te overrulen, los te koppelen of te deactiveren (MANAGE 2.4) (NIST).
De EU AI Act gaat voor hoogrisicosystemen nog een stap verder. Artikel 14 vereist dat de personen die toezicht houden zich bewust blijven van automation bias, de output kunnen negeren, overschrijven of terugdraaien, en het systeem kunnen onderbreken met een stopknop of een vergelijkbare procedure (EUR-Lex). Na de Digital Omnibus zijn die verplichtingen van kracht voor hoogrisicosystemen onder Annex III vanaf 2 december 2027 (EUR-Lex, Regulation 2026/1744). De meeste productagents vallen niet in de hoogrisicocategorie, maar vragen, overrulen en stoppen vormt een gezond minimum voor elk type agent.
Ook de beoordeling zelf vraagt om een doordacht ontwerp. Goddard en collega’s analyseerden 74 onderzoeken naar automation bias en zagen dat wanneer een beslissingsondersteunend systeem ernaast zat, het risico op een verkeerde menselijke beslissing met 26% toenam. Een reviewer die een zelfverzekerde aanbeveling ziet met een simpele “Goedkeuren”-knop vormt geen onafhankelijke controle, tenzij het product de onderbouwing laat zien en het makkelijk maakt om af te wijken.
Wanneer moet een AI-agent vragen, handelen of stoppen?
Hanteer drie routes en kies daartussen op basis van consequenties en bevoegdheid, niet op basis van de betrouwbaarheidsscore van het model.
Vraag wanneer het systeem informatie of bevoegdheid mist die de uiteindelijke beslissing kan veranderen. Stel één concrete vraag, leg uit waarom het antwoord uitmaakt en laat de gebruiker kiezen. Is het ontbrekende detail optioneel? Bied dan een duidelijke standaardwaarde aan.
Handel wanneer de taak helder gespecificeerd is, de actie binnen de opdracht van de gebruiker valt en de gevolgen overzienbaar zijn als het systeem het mis heeft. Zorg dat de actie zichtbaar blijft en eenvoudig te inspecteren of ongedaan te maken is.
Stop wanneer het systeem niet verantwoord verder kan: het verzoek valt buiten het toegestane bereik van het product, het bewijs is te mager voor de gevolgen, een vereiste bron is onbereikbaar, een foutlimiet is bereikt of de volgende stap zou een grens overschrijden waarvoor de gebruiker geen toestemming heeft gegeven. Leg uit waarom en bied een logische vervolgstap aan, zoals het aanpassen van de invoer of het doorschakelen naar een mens.
Route
Toepassen wanneer
Wat de gebruiker ziet
Voorbeeld
Vragen
Ontbrekende of tegenstrijdige informatie de uitkomst verandert
Eén vraag, toelichting waarom het uitmaakt, 2–4 opties
“Prioriteren op account fit of op recent koopsignaal?”
Handelen
Verzoek is helder, actie valt binnen scope en is omkeerbaar
Het resultaat, wat er gewijzigd is, optie tot herstellen
Conceptreactie opgeslagen in concepten
Handelen na bevestiging
Actie valt binnen scope maar heeft reële impact
Een preview en een expliciete bevestigingsknop
Het antwoord direct naar de klant sturen
Stoppen
Buiten scope, te weinig bewijs, foutlimiet bereikt of ongeautoriseerd
De reden en een vervolgstap of menselijk contactpersoon
“Ik kan facturatiegegevens niet aanpassen. Dit team wel.”
Zekerheid is geen mandaat. Een model dat aangeeft 90% zeker te zijn, heeft daarmee nog niet het recht om een e-mail te versturen, een klantrecord te overschrijven of een productbeslissing definitief vast te leggen. De juiste route hangt af van de taak, het bewijs, de bevoegdheid van de gebruiker en de kosten van een fout. Voor beslissingen met een vaste uitkomst, zoals classificeren, routeren of scoren, beschrijft het beslissingskader voor AI hoe je drempelwaarden baseert op de kosten van fouten. Om te bepalen hoe omkeerbaar een actie is, kun je kijken naar onomkeerbare versus omkeerbare productbeslissingen.
Hoe delen AI-agents en mensen vandaag de controle?
Het onderzoek van Anthropic uit februari 2026 biedt tot nu toe de beste openbare data. Daarin werden ongeveer 500.000 interactieve Claude Code-sessies en 998.481 tool calls via de openbare API onder de loep genomen (Anthropic, 2026).
Waarom de agent uit zichzelf pauzeerde:
Reden waarom Claude Code pauzeerde
Aandeel
Om een keuze tussen verschillende aanpakken voor te leggen
35%
Om diagnostische gegevens of testresultaten te verzamelen
21%
Om een vaag verzoek te verduidelijken
13%
Om inloggegevens of toegang te vragen
12%
Om goedkeuring te vragen alvorens te handelen
11%
Waarom mensen ingrepen: om ontbrekende context of correcties door te geven (32%), omdat de agent traag was, vastliep of te veel tegelijk deed (17%), en om de volgende stap zelf uit te voeren (7%).
Hoe vertrouwen meegroeide met ervaring: nieuwe gebruikers (minder dan 50 sessies) zetten in ongeveer 20% van de sessies volledige automatische goedkeuring aan; bij 750 sessies liep dat op naar meer dan 40%. Ervaren gebruikers grepen tegelijkertijd vaker actief in: in ongeveer 9% van de beurten, tegenover zo’n 5% bij gebruikers met circa 10 sessies. Anthropic interpreteert dit als actieve monitoring in plaats van het laten varen van toezicht.
Het risicoprofiel op de API: 80% van de tool calls kwam van agents met ten minste één ingebouwde beveiliging, zoals ingeperkte rechten of verplichte goedkeuringen; tot 73% leek een human in the loop te hebben (volgens de onderzoekers een bovengrens); en slechts 0,8% van de acties leek onomkeerbaar te zijn.
Hieruit volgen drie lessen voor productteams:
Ontwerp de vraagroute voor keuzes, niet alleen voor ontbrekende data. De veruit belangrijkste reden voor een agent om te pauzeren, was om een afweging tussen verschillende werkwijzen voor te leggen. Maak daar een volwaardig scherm van met duidelijke opties.
De meeste onderbrekingen ontstaan door ontbrekende context. Een derde van de menselijke ingrepen diende om context of correcties aan te vullen die de agent miste. Betere productcontext vooraf vermindert zowel het aantal vragen vanuit de agent als onderbrekingen door de gebruiker. Het PRD-template voor AI-coding-agents laat zien hoe je die context structureert.
Ontwerp voor gerichte interventie, niet voor goedkeuring bij elke stap. Anthropic adviseert om gebruikers realtime inzicht en laagdrempelige manieren te geven om bij te sturen, in plaats van voor elke afzonderlijke actie accoord te vragen. Gebruikers die de agent vertrouwen, willen alsnog snel kunnen ingrijpen als het nodig is.
Hoe passen echte producten vragen, handelen en stoppen toe?
De permissiemodi van Claude Code zijn een sprekend praktijkvoorbeeld, omdat elke modus in feite een ander handoffbeleid vertegenwoordigt (Claude Code-documentatie):
Permissiemodus van Claude Code
Wat hij zonder vragen doet
Handoffroute die dit weerspiegelt
Manual (default)
Alleen lezen; vraagt toestemming voor bewerkingen, shell-commando's en netwerktoegang
Vragen vóór elke schrijfactie
acceptEdits
Lezen, bestanden bewerken en gangbare bestandscommando's binnen de werkmap
Handelen bij veilige, omkeerbare wijzigingen; vragen bij de rest
plan
Lezen en verkennen; bewerkingen geblokkeerd tot je een plan goedkeurt
Eén keer vooraf vragen met een plan
auto
Alles, waarbij een classificatiemodel elke actie beoordeelt
Handelen, met een controlerend model dat kan stoppen
dontAsk
Uitsluitend vooraf goedgekeurde tools; de rest wordt geweigerd
Handelen binnen strakke kaders; daarbuiten stoppen
Twee details zijn de moeite waard om over te nemen. Ten eerste blokkeert de auto-modus standaard een lijst met ingrijpende acties, zoals productiedeployments en -migraties, force-pushes, bulkverwijderingen in cloudopslag en het mergen van een pull request zonder menselijke goedkeuring. Dat is een expliciete stoplijst. Ten tweede: als het classificatiemodel een actie 3 keer op rij of in totaal 20 keer blokkeert, pauzeert de auto-modus en schakelt Claude Code terug naar de vraagmodus. Dat is een foutdrempel — exact de eerste trigger uit de gids van OpenAI. De weigerregels gelden bovendien in elke modus: dat is de harde buitengrens.
De gids van OpenAI reikt een methode aan om te bepalen welke acties welke route vereisen: geef elke tool een laag, gemiddeld of hoog risiconiveau op basis van lees- versus schrijfrechten, omkeerbaarheid, benodigde permissies en financiële impact. Pauzeer vervolgens voor controles of escaleer naar een mens vóór risicovolle calls. Voorbeelden van acties die menselijk toezicht moeten triggeren zijn het annuleren van bestellingen, het goedkeuren van grote terugbetalingen en het verrichten van betalingen.
Anthropic’s eigen richtlijnen voor agents onderstrepen ditzelfde principe vanuit technisch oogpunt: agents kunnen pauzeren voor menselijke feedback bij vaste controlepunten of wanneer ze vastlopen, moeten bij elke stap de werkelijke status uit de omgeving ophalen en hebben harde stopcondities nodig, zoals een maximumaantal iteraties (Anthropic, 2024).
Hoe stel je een AI-agent-handoffcontract op?
Schrijf voor elke AI-ondersteunde workflow een actiekader in heldere taal — compact genoeg zodat product, design, engineering en support het allemaal kunnen beoordelen.
Contractveld
Te beantwoorden vraag
Gebruiker en taak
Wie probeert wat te volbrengen?
Toegestane acties
Wat mag het product voorbereiden of uitvoeren, en met welk risiconiveau?
Vereiste context
Welke feiten, permissies of bronnen moeten aanwezig zijn?
Vraagconditie
Welk ontbrekend of tegenstrijdig detail gaat terug naar de gebruiker?
Stopconditie
Wat maakt verdergaan onverantwoord?
Foutdrempel
Na hoeveel mislukte pogingen volgt een overdracht?
Bevestiging
Welke acties vereisen expliciete beoordeling of akkoord?
Herstel
Hoe kan de gebruiker het resultaat corrigeren, terugdraaien of overdragen?
Reviewtrigger
Welk signaal of welke datum heropent dit contract?
Dit kader beschrijft het gedrag, niet de implementatie. Het schrijft geen specifiek model, prompt, API of architectuur voor; die horen thuis in het technische plan zodra het team het eens is over wat het product hoort te doen.
Kopieer dit naar je productbrief:
## Handoffcontract: [workflow]
Voor [gebruiker] die probeert om [taak], mag het product [toegestane actie]
wanneer [vereiste context] aanwezig is.
Vragen wanneer: [beslissende informatie ontbreekt of tegenstrijdig is]
Stoppen wanneer: [buitengrens bereikt, zwak bewijs, ontbrekende bron of ongeautoriseerde stap]
Foutdrempel: overdragen na [n] mislukte pogingen bij [stap]
Bevestigen vóór: [ingrijpende actie] (risico: laag / gemiddeld / hoog)
Herstel: de gebruiker kan [ongedaan maken / bewerken / toewijzen] via [mechanisme]
Eigenaar: [PM] voor beleid, [engineer] voor implementatie
Herziening bij: [signaal, incident of datum]
Loop vervolgens praktijkvoorbeelden door met een PM, een engineer, een designer en iemand die dicht op de operatie zit. Pas het contract aan tot elk scenario een logische route volgt en de gebruiker altijd begrijpt wat er gebeurt.
Houd een besluitenlogboek bij
Wanneer het team een contract goedkeurt, leg dan vast wat is toegestaan, voor welke gebruikers of situaties het geldt, welk bewijs eraan ten grondslag ligt, wie de eigenaar is, welke testcases het controleren en wat een herziening triggert. Mocht het product later te vaak vragen stellen, handelen op basis van te weinig data of stoppen zonder bruikbare vervolgstap, dan kan het team dat direct herleiden naar het beleid. Een besluitenlogboek voor productteams volstaat hiervoor. Het voorkomt bovendien diffuus eigenaarschap: PM's bepalen het beoogde gedrag en de afwegingen; engineers zijn eigenaar van de implementatie, permissies, betrouwbaarheid en operationele veiligheid.
Uitgewerkt voorbeeld: salesprospects prioriteren
Dit is een illustratief scenario. Stel je een AI-feature voor die een salesteam helpt bij het rangschikken van prospects. Een grote onderneming met een forse financieringsronde lijkt op het eerste gezicht heel aantrekkelijk. Een kleiner bedrijf met een concreet koopsignaal van vorige week is mogelijk veel relevanter qua timing. Beide observaties kloppen; het product heeft beleid nodig om te bepalen wat zwaarder weegt.
Het contract kan er zo uitzien:
Toegestane actie: een prioriteitsniveau voorstellen (risico: laag, want het is een suggestie) en de onderbouwing tonen.
Vereiste context: de criteria van het team voor account fit, plus de datum en bron van elk koopsignaal.
Vragen: vraag naar de prioriteringsregel van het team als de definitie van ‘beste prospect’ ontbreekt.
Stoppen: leid nooit een koopsignaal af uit enkel de bedrijfsgrootte en beweer niet dat een account koopklaar is zonder verifieerbare bron.
Foutdrempel: als het ophalen van data voor een account twee keer mislukt, markeer het dan als ‘handmatige controle vereist’ in plaats van te gokken.
Bevestiging: een accountmanager beoordeelt het niveau voordat de gedeelde pipeline wordt bijgewerkt (risico: gemiddeld, omdat collega's hiernaar handelen).
Herstel: de beoordelaar kan het niveau direct aanpassen en de reden noteren.
Dit contract legt een afweging bloot die het model niet zelf kan maken: kiest dit team voor fit, timing of een afgewogen balans daartussen? De PM brengt de domeinkennis in — of brengt de juiste experts samen — en maakt de afweging inzichtelijk. Het model voert de gekozen regel uit; het hoort er niet zelf een te verzinnen.
Hoe test je een handoffcontract vóór lancering?
Stel een kleine set representatieve testcases samen en controleer of het product de juiste route kiest en deze helder uitlegt. Zorg in ieder geval voor scenario's waarin:
Het verzoek compleet is en de actie omkeerbaar is (verwacht: handelen).
Een cruciaal feit ontbreekt en verschillende antwoorden de uitkomst zouden veranderen (verwacht: vragen).
Twee bronnen elkaar tegenspreken (verwacht: vragen, met weergave van beide kanten).
De gebruiker iets vraagt buiten de vastgelegde bevoegdheden (verwacht: stoppen).
Het bewijs te dun is gezien de impact van de actie (verwacht: stoppen of vragen).
Een externe afhankelijkheid faalt of een bron onbereikbaar is (verwacht: opnieuw proberen tot de drempelwaarde, daarna overdragen).
Leg voor elk scenario de verwachte route vast, inclusief de reden en wat de gebruiker te zien krijgt: “Vragen, omdat de datum van het koopsignaal ontbreekt; toon de accountbron en laat de accountmanager deze toevoegen of overslaan.” Dat is concreet toetsbaar. “Voorzichtig zijn” is dat niet.
Beoordeel echte outputs samen met mensen die het domein door en door kennen. Verschillen de reviewers van mening? Ga dan niet middelen om er maar vanaf te zijn, maar zoek de onderliggende beleidskeuze. De één optimaliseert wellicht voor relevantie (fit), de ander voor urgentie. Hak de knoop door, leg het vast in het contract en voeg een testcase toe die dit onderscheid meetbaar maakt. De vaste cyclus is: observeer een praktijkgeval, benoem het oordeel, stem het beleid af, werk de testcases bij en controleer het gedrag opnieuw. Het AI-evaluatiekader voor productteams laat zien hoe je deze cases uitbouwt tot een volwaardige evaluatieset.
Deze testcases vervangen uiteraard geen productiemonitoring of technische vangnetten. Ze zorgen er wel voor dat het team het eens is over wat het product hoort te doen.
Hoe maak je van “vragen” een waardevolle productstatus?
Vragen stellen is niet per definitie veiliger. Te veel onderbrekingen leggen het werk juist weer terug bij de gebruiker en zorgen ervoor dat een feature onaf aanvoelt. Een vraag hoort pas in beeld te komen wanneer het antwoord de uitkomst wezenlijk kan veranderen. De 18 Guidelines for Human-AI Interaction van Microsoft — gebaseerd op ruim 20 jaar onderzoek — behandelen het gedrag van een systeem bij fouten als een op zichzelf staande ontwerpfase, los van de normale interactie (Microsoft Research, 2019).
Een effectief overdrachtsscherm toont:
wat het systeem tot nu toe heeft afgeleid
welke informatie ontbreekt of tegenstrijdig is
waarom dit uitmaakt voor de volgende actie
twee tot vier duidelijke keuzes, inclusief “later beslissen” waar dat veilig kan
Kan de gebruiker het resultaat na een preview eenvoudig corrigeren? Dan werkt een bevestigingsstap vaak beter dan vooraf vragen stellen. Kan het product een omkeerbare actie uitvoeren met een duidelijke herstelmogelijkheid (“ongedaan maken”)? Dan is het wellicht helemaal niet nodig om te onderbreken.
Veelgemaakte fouten bij AI-agent-handoffs
Zekerheid aanzien voor toestemming. Een waarschijnlijkheidsscore zegt enkel hoe zeker het model van zijn zaak is, niet of de gebruiker akkoord is met de actie.
Om alles toestemming vragen. Continue pop-ups leren gebruikers om gedachteloos op “Akkoord” te klikken: automation bias by design.
Stoppen zonder handelingsperspectief. Een melding als “Hier kan ik je niet bij helpen” zonder uitleg of contactoptie is een doodlopende weg.
Geen foutdrempel inbouwen. Zonder limiet op herhaalpogingen kan een agent oneindig blijven hangen op een mislukte stap. Bepaal een maximum en draag direct over zodra dat bereikt is.
Eén contract voor elke actie gebruiken. Alleen-lezen zoekopdrachten en betalingen vereisen totaal andere routes. Beoordeel elke actie apart op risico.
Onduidelijk intern beleid. Als reviewers het oneens zijn over de gewenste uitkomst, ontbreekt er een regel in het contract — het ligt dan niet aan het model.
Geen evaluatiemoment inplannen. Zowel agents als gebruikers veranderen na verloop van tijd. Wijs concrete signalen of data aan waarop het contract wordt herzien.
Waar Specky in beeld komt
Specky’s eigen MCP-server volgt exact dit stramien voor agents die in een product workspace opereren: agents maken PRD's, inzichten, besluiten en tickets aan in een concept- of voorstelstatus. De PM Inbox fungeert als centrale reviewqueue, en automatisch publiceren gebeurt alleen wanneer de gebruiker daar in dezelfde sessie uitdrukkelijk om vraagt. Je kunt elk handoffcontract direct vastleggen in het Decision Log, zij aan zij met de onderbouwing. Bekijk Specky voor technische PM's om te zien hoe dit binnen de bredere workflow past.
Veelgestelde vragen
Wat is een AI-agent-handoff?
Een AI-agent-handoff is het moment waarop een AI-functionaliteit de controle overdraagt, hetzij aan een andere agent, hetzij aan een mens. Binnen productontwerp doelt men meestal op de overdracht van agent naar mens: de agent vraagt om ontbrekende input, verzoekt om goedkeuring vóór een impactvolle actie, of stopt ermee zodat iemand het kan overnemen. Een handoffcontract definieert deze triggers voorafgaand aan de lancering.
Wanneer moet een AI-agent om bevestiging vragen?
Vóór acties die aanzienlijke gevolgen hebben maar wel binnen de scope vallen: berichten naar klanten versturen, gedeelde databases bijwerken, geld uitgeven of alles wat lastig terug te draaien is. Schaal acties in als laag, gemiddeld of hoog op basis van schrijfrechten, omkeerbaarheid, bevoegdheden en financiële impact, en vereis bevestiging bij een gemiddeld of hoog risico. Laag-risico, omkeerbare acties kunnen vaak direct draaien met een duidelijke herstelknop.
Wat is het verschil tussen een handoff van agent naar agent en van agent naar mens?
Een handoff van agent naar agent is een vorm van interne taakdelegatie: in de Agents SDK van OpenAI draagt een triage-agent een restitutieverzoek over aan een gespecialiseerde restitutie-agent via een tool call. Een handoff van agent naar mens geeft de controle terug aan een gebruiker omdat de agent niet verder kan of mag gaan. De eerste is een orchestratiekeuze; de tweede is een productbeslissing over bevoegdheid en risico.
Is “human in the loop” voldoende om een AI-agent veilig te maken?
Nee. Een menselijke controleur werkt alleen als diegene over de juiste context beschikt, voldoende tijd heeft en eenvoudig kan afwijken van het voorstel. Uit een analyse van 74 studies bleek dat foutief advies van beslissingsondersteunende systemen het risico op een verkeerde menselijke beslissing met 26% verhoogde. Leg concreet vast wie wat controleert, welke gegevens zichtbaar zijn, wat er aangepast kan worden en wat er gebeurt als niemand reageert.
Hoe vaak hoort een AI-agent de gebruiker te onderbreken?
Uitsluitend wanneer het antwoord de uitkomst wezenlijk kan veranderen of wanneer een actie expliciete bevoegdheden vereist die de agent mist. Uit de data van Anthropic uit 2026 bleek dat Claude Code bij complexe taken vaker om verduidelijking vroeg dan bij simpele taken, en dat ervaren gebruikers in ongeveer 9% van de beurten zelf ingrepen. Meet je eigen interactieratio en kijk welk percentage van de vragen daadwerkelijk zinvol wordt beantwoord door gebruikers.
Verplicht de EU AI Act een menselijke overdracht voor AI-agents?
Voor hoogrisicosystemen vereist Artikel 14 dat toezichthouders de beperkingen begrijpen, alert blijven op automation bias, resultaten kunnen overrulen of terugdraaien en het systeem direct kunnen stopzetten. Na de Digital Omnibus gelden deze verplichtingen voor hoogrisicosystemen onder Annex III vanaf 2 december 2027. De meeste productagents vallen hier niet onder, maar het patroon van vragen, overrulen en stoppen geldt als een bewezen best practice.
GDPR-aligned. EU workspace data is stored in Frankfurt, Germany. GDPR and EU data Built in Vienna, Austria. A product of influence solutions fm GmbH (FN 675374y). Imprint 14-day trial. Card required, and nothing is charged until day 14. 30-day refund after subscribing. See pricing