OpenAI: ChatGPT-teksten in EU krijgen onzichtbaar watermerk

Samenvatting

OpenAI geeft ChatGPT-teksten in de EU standaard een onzichtbaar watermerk via textGrain.

textGrain voor ChatGPT-teksten

OpenAI voegt in de Europese Unie standaard een onzichtbaar watermerk toe aan teksten die ChatGPT genereert. De functie heet textGrain en staat buiten de EU standaard uit; daar biedt OpenAI haar via de API als optie aan.

Volgens OpenAI presteert textGrain beter dan Googles SynthID. De detectie werkt minder goed bij zeer korte teksten en wanneer gebruikers minstens 10 procent van de woorden vervangen. OpenAI geeft daarom voorlopig alleen goedgekeurde onderzoekers en deskundige organisaties toegang tot de detector.

TextGrain verdeelt mogelijke woorden, oftewel tokens, met een geheime sleutel over groepen. Een tabel met willekeurige waarden bepaalt vervolgens welke statistische patronen de gegenereerde tekst krijgt. De detector zoekt naar die afhankelijkheid zonder dat lezers iets aan de tekst zien. Een entropiebudget bepaalt hoeveel willekeur in de woordkeuze voor het watermerk plaatsmaakt.

Waarom het AI-watermerk telt

De Europese AI Act verplicht aanbieders van AI-systemen om synthetische content machinaal herkenbaar en detecteerbaar te markeren. Dat geldt voor tekst, beeld en audio. Onzichtbare watermerken of metadata geven zoekmachines, detectietools en platforms een technisch signaal over de herkomst van content.

Voor BI-teams die ChatGPT gebruiken voor documentatie, analyses of rapportteksten ontstaat daarmee een onderscheid tussen tekst die in de EU is gegenereerd en tekst uit andere regio’s of API-configuraties. Het watermerk is geen sluitend bewijs: korte teksten en sterk bewerkte teksten zijn lastiger te detecteren. Niet alleen OpenAI werkt aan deze aanpak; SynthID van Google vormt een genoemd alternatief.

Concrete takeaway voor textGrain

Leg bij ChatGPT-gebruik vast waar en via welk kanaal tekst is gegenereerd. Behandel textGrain-detectie als een aanvullend herkomstsignaal, niet als zelfstandig bewijs, vooral bij korte of bewerkte teksten.