AI-agents: vertrouwen is de grootste uitdaging voor leiders

Samenvatting

AI-agents nemen zelfstandig beslissingen en acties, maar vertrouwen, databeheer en governance blijven de grootste knelpunten.

AI-agents en vertrouwen: wat er gebeurt

Bernard Marr bespreekt hoe bedrijven AI-agents steeds meer beslissingen laten nemen, gevoelige informatie laten benaderen en met andere systemen laten samenwerken. Dat gebeurt in een gesprek met Stijn Christiaens, medeoprichter en Chief Data Citizen van Collibra, tijdens World Summit AI in Amsterdam.

Een chatbot geeft een antwoord waarna een medewerker beslist wat ermee gebeurt. Een AI-agent plant taken, neemt beslissingen en voert acties uit met veel minder menselijke tussenkomst. Volgens Christiaens ontstaat zo een zeer complex automatiseringslandschap. In de toekomst kunnen honderden of duizenden agents actief zijn in klantenservice, financiën en supplychains.

AI-agents en governance: waarom dit belangrijk is

Een fout antwoord van een chatbot valt mogelijk snel op. Een autonome agent kan echter foutieve informatie doorgeven aan een andere agent en vervolgens acties in meerdere systemen starten. De fout verspreidt zich dan voordat iemand ingrijpt.

Daarom verschuift de aandacht van alleen het AI-model naar de omgeving eromheen. Marr noemt data, governance en bedrijfsprocessen als de grootste barrières voor succesvolle AI. Voor BI-professionals raakt dit direct aan de herkomst van informatie, toegangsrechten, controles en de manier waarop systemen beslissingen registreren.

De publicatie verwijst ook naar Collibra’s Hallucination Tax Report 2026, maar het aangeleverde fragment bevat geen bevindingen of cijfers uit dat rapport. Die details vormen dus geen onderdeel van deze samenvatting.

AI-agents: concrete takeaway

Breng vóór uitbreiding van AI-agents in kaart welke gegevens elke agent mag gebruiken, welke acties hij zelfstandig mag uitvoeren en welke overdrachten tussen agents plaatsvinden. Leg daarnaast vast waar menselijke controle nodig blijft. Zo krijgt een BI-team zicht op de keten tussen brondata, agentbeslissing en systeemactie, in plaats van alleen op het uiteindelijke resultaat.