KPMG schreef over zelfstandige AI-agenten. Een zelfstandige AI haalde het rapport onderuit.

Duiding van de actualiteit

Het nieuws over AI gaat snel, maar wat het voor jouw praktijk betekent blijft vaak onbesproken. Wij volgen de ontwikkelingen op de voet en filteren de waan van de dag, zodat je alleen leest wat je kantoor echt raakt. Vandaag een verhaal met een ironie die je niet kunt verzinnen, en een les die verder reikt dan het kantoor waar het misging.

In het kort. KPMG haalde een wereldwijd rapport over zelfstandig werkende AI-agenten offline nadat onderzoekers ontdekten dat de praktijkvoorbeelden verzonnen waren. Van de 45 bronverwijzingen klopten er maar vijf. Bedrijven als UBS en de NHS herkenden hun eigen succesverhaal niet. Een rapport dat bejubelt hoe goed AI zelfstandig werkt, onderuit gehaald door AI die zelfstandig z’n gang ging.

Wat is er precies gebeurd?

KPMG publiceerde een rapport over de opkomst van zelfstandig werkende AI-agenten, met klinkende voorbeelden van grote organisaties die er al volop mee zouden werken. Onderzoeksbureau GPTZero ontdekte dat veertig van de vijfenveertig bronvermeldingen niet bestonden. De Financial Times bevestigde de bevindingen. UBS liet weten dat de claims over het bedrijf feitelijk onjuist waren, en ook de NHS herkende zich niet in het geschetste beeld.

KPMG haalde het rapport van een aantal sites en startte een intern onderzoek. Voor een kantoor dat z’n hele bestaan op vertrouwen en zorgvuldigheid bouwt, is dat een pijnlijke week. En het is precies het scenario waar veel eigenaren van advies-, accountants- en advocatenkantoren ‘s nachts van wakker liggen.

De ironie is de hele les

Het rapport ging over hoe krachtig AI-agenten zijn die zonder veel toezicht hun werk doen. En juist dat stuk werd onderuit gehaald door precies zo’n agent, die zonder toezicht z’n gang ging en de gaten opvulde met cases die plausibel klonken maar niet bestonden. Niet uit kwade wil. Een taalmodel zonder echte bronnen doet nu eenmaal waarvoor het gemaakt is.

En het bleef niet bij verzonnen bronnen. Voorbeelden die een AI uit het niets optekent klinken niet alleen geloofwaardig, ze zijn meestal ook net te mooi. De gladde, succesvolle versie van de werkelijkheid, zonder de haken en ogen die elk echt project heeft. We zeggen voorzichtig dat ze vermoedelijk wat overdreven waren, maar als de betrokken bedrijven hun eigen verhaal niet eens herkennen, weet je eigenlijk al genoeg. Te mooi om waar te zijn, en daarmee ook niet waar.

Daar zit de waarheid die nu graag wordt weggepoetst. Het is met de huidige techniek een illusie dat je een agent volledig zelfstandig richting je klant kunt laten handelen. Een agent komt een heel eind, zeker met de juiste context. Maar hij heeft nooit wat er in jouw hoofd zit, en hij kent de relatie met je klant niet. Die laatste laag, het oordeel en de verstandhouding, dat ben jij. Laat je dat weg, dan gaat het soms goed en vaker mis. Bij KPMG haalde het de internationale pers. Bij een klein kantoor haalt het de tuchtrechter of de relatie met een cliënt.

De risico’s op een rij

Geen verankering in echte bronnen. Zonder dat je de AI de juiste documenten voert, leunt het antwoord op wat statistisch waarschijnlijk is, niet op wat waar is.
Geen reproduceerbaarheid. Als je achteraf niet kunt navertellen waaróp een conclusie rust, kun je hem ook niet verdedigen tegenover een cliënt of toezichthouder.
Geen mens op de juiste plek. Wordt een concept blind doorgezet, dan is er niemand die de fout vangt en niemand die weet wat de klant écht nodig heeft.

Hoe je de regie houdt

De oplossing is niet om AI te mijden, en ook niet om te wachten op een model dat nooit een fout maakt. De oplossing is organisatie. Je geeft de AI de echte context van je kantoor mee, en je zorgt dat een mens de uitkomst altijd kan narekenen en het laatste woord heeft. Niet toevallig wijst ook de nieuwe leidraad van de NBA en NOREA accountants precies op die twee dingen, geen black box en altijd reproduceerbaar.

Het risico bij KPMG	Hoe je het ondervangt
AI vult bronnen zelf in	De AI werkt op jouw eigen dossiers en kennis, niet op een lege pagina
Niemand kon de claims narekenen	Elke conclusie is te herleiden naar de bron waarop hij rust
Concept ging ongezien naar buiten	De professional beslist, de AI doet het voorwerk

Dat is geen technische truc, het is een werkwijze. En het is eerlijk werk om het goed in te richten, want elke laag van je kantoor heeft z’n eigen regels, dossiers en lopende zaken. Wij noemen dat context-management, en het is precies wat het verschil maakt tussen een assistent die je vertrouwt en een rapport dat je moet intrekken.

Eerlijk is eerlijk, dit stuk bewijst het zelf. Wij schreven het met onze eigen AI, en de scherpste observatie, juist die ironie, kwam er niet vanzelf uit. Die haalde een mens eruit. Precies zoals het hoort.

Zelf aan de slag of laat ons helpen

Wil je dit zelf opzetten? Onze methode staat open op GitHub, zodat je er meteen mee aan de slag kunt met Claude Code. Heb je daar de tijd niet voor en wil je het in één keer goed ingericht hebben op je eigen infrastructuur? Plan dan een kennismaking, dan kijken we samen of het bij je kantoor past.

De open methode: github.com/mennovdmm/canoniek
De begeleide route: plan een kennismaking