OpenAI: ontslagen medewerkers legden veiligheid voorop

Samenvatting

OpenAI ontslaat drie veiligheidsmedewerkers die zeggen dat ze interne zorgen over AI-modelveiligheid zwaarder lieten wegen dan bedrijfsbelangen.

OpenAI en AI-modelveiligheid: wat er gebeurt

Drie voormalige veiligheidsmedewerkers zeggen dat OpenAI hen onder verdachte omstandigheden ontsloeg nadat zij intern zorgen uitten over de veiligheid van AI-modellen. OpenAI weerspreekt dat en stelt dat het drietal onzorgvuldig met gevoelige informatie omging.

Mikita Balesni schrijft dat de medewerkers vermoedelijk ontslagen zijn omdat zij veiligheid voorrang gaven boven kortetermijnbelangen. Tomek Korbak zegt dat hij tijdens het Hugging Face-incident contactpersoon was voor de externe toezichthouder Model Evaluation and Threat Research, oftewel METR. Hij vermoedt dat die rol bij zijn ontslag meespeelde.

Waarom OpenAI en AI-modelveiligheid belangrijk zijn

De zaak legt een conflict bloot tussen interne veiligheidsmeldingen, vertrouwelijke informatie en contact met externe toezichthouders. De voormalige medewerkers vrezen dat de communicatie rond hun ontslag huidige werknemers terughoudender maakt om veiligheidsrisico’s te melden.

OpenAI geeft een andere verklaring en verwijst naar de omgang met gevoelige informatie. Tegelijk staat in een intern memo dat een niet bij naam genoemde onderzoeker het ontslagen drietal steunt in de oproep om met externe toezichthouders samen te werken.

Voor BI-professionals die AI-modellen beoordelen of rapportages over modelrisico’s bouwen, raakt dit aan de inrichting van escalatieprocessen. Een dashboard of evaluatie is niet genoeg als medewerkers niet weten wie meldingen ontvangt, welke informatie zij mogen delen en hoe een externe toets verloopt.

Concrete takeaway voor AI-modelveiligheid

Leg bij AI-projecten afzonderlijk vast hoe medewerkers veiligheidszorgen melden, welke gegevens vertrouwelijk blijven en wanneer een externe partij zoals METR wordt ingeschakeld. Bewaar die afspraken controleerbaar, zodat een veiligheidsmelding niet afhankelijk wordt van informele communicatie of de positie van één medewerker.