Verantwoordelijke AI: systemen ontwerpen die menselijk oordeel behouden

Samenvatting

Verantwoordelijke AI: 65% van experts vindt menselijk oordeel het bewaren waard, ook bij steeds capabelere machines.

Verantwoordelijke AI en menselijk oordeel

MIT Sloan Management Review en Boston Consulting Group onderzochten voor het vijfde jaar op rij hoe experts naar verantwoordelijke AI kijken. Dit jaar stond de vraag centraal hoe organisaties systemen ontwerpen die betrouwbaar menselijk oordeel behouden wanneer AI sneller en op grotere schaal werkt.

Van de panelleden is 65% het eens of sterk eens met de stelling dat menselijk oordeel behouden moet blijven. 19% is het oneens of sterk oneens en 15% blijft neutraal. De experts maken daarbij onderscheid tussen menselijk oordeel en menselijk toezicht. Het doel is niet om menselijke beslissingen zonder meer te behouden, maar om mens-machine-systemen zo in te richten dat menselijk oordeel beschikbaar blijft wanneer dat ertoe doet.

Waarom Verantwoordelijke AI aandacht vraagt

Het artikel koppelt de discussie aan onderzoek naar overmatig gebruik of overmatige afhankelijkheid van AI. Dat kan leiden tot epistemische ontwenning: mensen oefenen hun kritisch en moreel oordeel minder. De auteurs verwijzen ook naar zorgen over de cognitieve en emotionele ontwikkeling van kinderen. New York City introduceerde daarop het eerste verbod in de Verenigde Staten op generatieve AI op scholen.

Voor BI-teams raakt dit direct aan AI-gegenereerde analyses en aanbevelingen. Een controle door een mens is niet hetzelfde als een formele goedkeuring achteraf: het systeem moet ruimte laten voor beoordeling op momenten waarop context, gevolgen of waarden niet automatisch vaststaan. De discussie over agentische autonomie maakt die grens scherper.

Concrete takeaway voor Verantwoordelijke AI

Leg per AI-toepassing vast wanneer een professional de uitkomst moet controleren, wanneer die persoon mag afwijken en welke beslissingen nooit volledig aan het systeem worden overgelaten. Test daarna niet alleen de nauwkeurigheid van de output, maar ook of gebruikers hun eigen oordeel actief blijven inzetten. Zo krijgt menselijke beoordeling een vaste plaats in het ontwerp, in plaats van alleen in een beleidsdocument.