Handig, zolang je weet wat zo’n agent doet als de opdracht niet op de correcte manier lukt. En wat als jouw agent tegenover een sterker systeem staat? Learning Innovator Tom Van ’t veld volgt de AI-ontwikkelingen voor Xylos van dichtbij. In deze blog legt hij een interview met ethisch hacker Inti De Ceukelaire naast een artikel van Nick Jennings. Daaruit volgt een vraag die elke organisatie met AI-agents zich best nu al stelt.

Stel dat je binnenkort je hypotheek laat onderhandelen door een AI-agent. De bank aan de andere kant doet precies hetzelfde. Twee systemen vechten het onder elkaar uit terwijl jij toekijkt. Klinkt efficiënt, tot je je afvraagt wiens agent de meeste troeven in handen heeft.

Vanochtend las ik een artikel over ethisch hacker Inti De Ceukelaire. In een gesprek met VRT NWS vertelt hij dat hij van kamp veranderd is. Vroeger hackte hij AI-systemen zelf. Nu maakt hij zich zorgen over wat die systemen uit zichzelf doen.

Zijn voorbeeld is veelzeggend. Geef een agent de opdracht om een afspraak in de fitness te boeken. Lukt dat niet op de correcte manier, dan zoekt zo’n systeem gerust een weg die minder correct is. Het zet dan personeel onder druk, of zoekt andere leden op en annuleert hun reservatie om plaats te maken. Kwaadaardigheid speelt daarbij geen rol. Het systeem wil de opdracht afwerken en heeft geen benul van wat wel of niet kan.

De Ceukelaire vat het zelf samen: "AI is very bad at reading the room." De gevaren die hij ziet, zijn dan ook heel concreet: manipulatie, afpersing, desinformatie en aanvallen op kritieke infrastructuur.

Het doet me terugdenken aan een artikel van Nick Jennings, rector van Loughborough University. In The Conversation stelt Jennings dat de grote uitdaging minder bij de losse modellen ligt. Hij ziet ze vooral in de "kunstmatige samenlevingen" die ontstaan zodra miljoenen agents met elkaar beginnen te praten. Denk aan jouw agent die je hypotheek regelt en aan agents die supply chains onder elkaar afstemmen.

Jennings verwijst naar een experiment van OpenAI. Daarin wisselden duizenden agents tienduizenden berichten uit en omzeilden ze samen de beveiliging. Een losgeslagen agent is vervelend. Een heel ecosysteem van agents die onderling onderhandelen en concurreren, is een stuk lastiger te voorspellen.

Leg die twee naast elkaar en je krijgt een beeld dat mij bezighoudt. Agents hebben geen ingebouwde waarden. De bedrijven die ze bouwen gaan daar net op inspelen om winst te maken. De agent van je bank wordt getraind om het beste resultaat voor de bank te halen. Dat is iets anders dan een eerlijk gemiddelde zoeken. En jij zit daar met de agent die je je kan veroorloven.

AI wordt voor iedereen toegankelijk, alleen krijgt lang niet iedereen dezelfde AI. Onderhandel je met een gratis basismodel tegen het duurste, best afgestemde systeem, dan sta je zwakker. Vergelijk het met advocaten. Iedereen heeft recht op verdediging, maar wie een dure raadsman kan inhuren, komt er doorgaans beter uit. Straks speelt dat bij elke hypotheek, elk contract en elke annulatie. De schaal is dan veel groter dan we met menselijke advocaten ooit gekend hebben.

Toch hoeft dit geen somber verhaal te zijn. De Ceukelaire is ongerust, maar denkt dat we het kunnen oplossen. Volgens hem kan dat met noodscenario’s voor AI-agents, zoals we die al voor een brand hebben. Het oordeel en de verantwoordelijkheid liggen bovendien nog altijd bij de mens. Dat blijft zo, zolang we die rol zelf opeisen. Het systeem dat toevallig het snelst antwoordt, mag ze niet overnemen.

Blijft de vraag waar ik geen antwoord op heb. Als straks alles via agents loopt, wie zorgt er dan voor dat de zwakkere agent niet altijd verliest?

Tom werkt al jaren voor Xylos. Hij begon er als Microsoft Office-trainer en groeide uit tot de drijvende kracht achter vernieuwende leerconcepten. Hij bouwde mee aan OASE, het online leerplatform van Xylos, en aan het gamified learning brand PlayForward. Daarnaast ontwikkelde hij het Digital Coach-concept en een Microsoft Teams Escape Room-app. Met zijn mAIndset-game leren medewerkers spelenderwijs prompten met AI. Als Learning Innovator kijkt hij steeds meer naar wat AI betekent voor de manier waarop we leren en werken. Reageren of doorpraten? Vind hem op LinkedIn.