Organi­sa­ties zetten AI-agents in voor steeds kriti­scher processen, van finan­ciële afslui­ting tot inkoop en HR. Maar hoe stel je vast wat er is misge­gaan als een agent een verkeerde beslis­sing neemt, en hoe herstel je dat? Volgens Jonathan von Rueden, Head of AI Innova­tion & Data bij SAP, begint verant­woord gebruik van agentic AI bij één voorwaarde: volle­dige traceer­baar­heid op elk niveau.

“Het is net als bij klassieke SAP-systemen”, zegt Von Rueden. “Daar wordt altijd bijge­houden wie wat heeft gedaan en is elke stap traceer­baar voor auditors en finan­ciële teams. Diezelfde behoefte aan controle en trans­pa­rantie ontstaat nu ook rond AI-agents. Als er iets misgaat, wil je kunnen terug­zien wat er is gebeurd, waarom bepaalde keuzes zijn gemaakt en waar mense­lijke controle nodig blijft.”

Van businessgebruiker tot logbestand

De opkomst van AI-agents verschuift de uitda­ging voor organi­sa­ties van experi­men­teren naar beheersen. Zodra agents onder­deel worden van finan­ciële, opera­ti­o­nele of HR-processen, ontstaat behoefte aan gover­nance, trans­pa­rantie en controle op organi­sa­tie­ni­veau. Tijdens Sapphire 2026 lichtte SAP toe hoe een meerlaagse gover­nance-struc­tuur binnen zijn Autono­mous Suite kan inspelen op de verschil­lende behoeften binnen een organisatie.

Die struc­tuur werkt op drie niveaus, elk gericht op een andere gebruiker. Op het eerste niveau ziet de zakelijke gebruiker welke agents actief zijn, in welke proces­stap zij zich bevinden en wat de redene­ring achter een beslis­sing was, inclu­sief de bronnen waarop die redene­ring is gebaseerd. Zo kan iemand zonder techni­sche achter­grond toch precies volgen wat een agent heeft gedaan en waarom.

Op het tweede niveau biedt de SAP Agent Hub een overzicht van agents binnen een organi­satie, inclu­sief agents van derden zoals Servi­ceNow, Micro­soft, Databricks en AWS. IT- en compli­an­ce­teams zien daar hoeveel keer een agent is uitge­voerd, waar runs zijn mislukt en waar een eindge­bruiker een goedkeu­ring heeft gewei­gerd. Dat geeft grip op het geheel, niet alleen op indivi­duele agent-runs.

Op het derde niveau is volle­dige log-level tracing beschik­baar voor wie nog dieper wil gaan: elke tool die een agent heeft gekozen en elke redene­ring die daaraan ten grond­slag lag, is stap voor stap te reconstrueren.

“Je kunt het helemaal terug­voeren. Elke tool die is gekozen, en waarom, is traceer­baar”, aldus Von Rueden. “Veel AI-toepas­singen zijn vandaag nog relatief geïso­leerd ingericht. Maar naarmate organi­sa­ties opschalen van een handvol agents naar honderden of duizenden, hebben zij behoefte aan breder inzicht in hoe agents processen beïnvloeden, en hoe gebrui­kers en systemen met elkaar samen­hangen. Zodra AI-agents onder­deel worden van kritieke processen, draait gover­nance niet alleen om indivi­duele acties, maar ook om inzicht in de onder­linge afhan­ke­lijk­heden tussen processen, systemen en gebrui­kers.” Volgens Von Rueden vraagt die complexi­teit dus om een aanpak waarbij niet alleen indivi­duele agents, maar complete bedrijfs­pro­cessen inzich­te­lijk blijven.

Grenzen stellen als vertrekpunt

Gover­nance begint volgens Von Rueden niet bij het terug­kijken, maar bij het vooraf bepalen wat een agent wel en niet mag. Hij adviseert organi­sa­ties om agents bewust een beperkt mandaat te geven en dat mandaat staps­ge­wijs uit te breiden naarmate het vertrouwen groeit.

Een praktisch voorbeeld: stel een drempel­waarde in waarbij een agent zelfstandig beslis­singen mag nemen over facturen onder de vijftig euro, maar daarboven altijd mense­lijke goedkeu­ring vereist. “Het is een accep­tabel bedrijfs­ri­sico dat AI een beslis­sing neemt over een factuur van twintig euro, omdat de verwer­kings­kosten anders hoger zijn dan de controle zelf. Maar zodra bedragen oplopen, wil je dat een mens meekijkt”, aldus Von Rueden.

Volgens hem vormt juist die combi­natie van techni­sche traceer­baar­heid, mense­lijke controle en vooraf ingestelde grenzen de basis voor organi­sa­ties die AI-agents verant­woord willen inzetten op schaal.

Van governance naar vertrouwen

Naast gover­nance stond tijdens Sapphire 2026 ook de rol van gebrui­kers­in­ter­actie centraal. In dat kader lichtte SAP Joule Work toe, een nieuwe gebrui­ker­slaag bovenop de Autono­mous Suite. In plaats van navigeren door schermen en menu’s, beschrijven medewer­kers in natuur­lijke taal wat ze willen bereiken. Joule Work roept vervol­gens de juiste combi­natie van agents, workflows en data aan om de taak uit te voeren, op desktop, mobiel en via spraak, zowel binnen als buiten SAP-systemen.

“De verwach­ting van gebrui­kers veran­dert snel”, zegt Von Rueden. “Mensen willen processen steeds minder benaderen via losse appli­ca­ties of complexe inter­faces, maar direct vanuit een taak of vraag. AI-agents maken die verschui­ving mogelijk.”