AI-bedrijven: oprichting standaardenorgaan voor veiligheidstest

Samenvatting

AI-bedrijven bespreken een standaardenorgaan dat geavanceerde AI-modellen vóór uitrol op veiligheid laat testen.

AI-bedrijven: wat er gebeurt

Anthropic, Google en OpenAI bespreken volgens anonieme bronnen van CNN de oprichting van een standaardenorgaan. Onafhankelijke techexperts zouden geavanceerde AI-modellen testen voordat de makers ze uitrollen.

Het orgaan moet een publiek-private samenwerking worden. De overheid houdt toezicht, terwijl techbedrijven de tests financieren. De betrokken bedrijven hebben nog niet gereageerd.

AI-veiligheid: waarom dit belangrijk is

Het voorstel verschuift veiligheidstests naar een moment vóór de introductie van een model. Daarmee ontstaat een formele controle tussen modelontwikkeling en gebruik, in plaats van uitsluitend interne beoordeling door de maker.

De gesprekken sluiten aan op een essay van Demis Hassabis, oprichter van Google DeepMind, die in juli pleitte voor een standaardenorgaan. Ook de Amerikaanse minister van Financiën Scott Bessent werkt volgens Bloomberg aan een raamwerk voor een onafhankelijke toezichthouder, naar voorbeeld van de Financial Industry Regulatory Authority, ofwel Finra.

Dat voorstel krijgt niet unanieme steun. Meta-ceo Mark Zuckerberg zou Donald Trump hebben ontmoedigd om mee te gaan in Bessents plan. Volgens CNN gaan de gesprekken tussen de AI-bedrijven door, met of zonder Trump. Tegelijkertijd spraken medewerkers van grote AI-bedrijven zich publiekelijk uit over veiligheidsrisico’s van geavanceerde AI-systemen.

Voor BI-professionals die AI-modellen in analyses of applicaties verwerken, raakt dit vooral de vraag wie veiligheid beoordeelt en volgens welke norm. De bron meldt nog geen opgerichte instantie, testmethode of verplichting.

AI-bedrijven: concrete takeaway

Volg niet alleen de modelprestaties, maar ook de herkomst van veiligheidstests. Leg bij nieuwe AI-diensten vast welke onafhankelijke beoordeling bestaat, wie toezicht houdt en of de aanbieder transparantie geeft over de testresultaten.