Microsoft: betaalt gebruikers voor verbetering seksuele afbeeldingen Copilot

Samenvatting

Microsoft Copilot laat betaalde beoordelaars seksueel getinte afbeeldingen en prompts beoordelen voor kwaliteitsverbetering.

Microsoft Copilot en menselijke beoordeling

Microsoft heeft honderden mensen in dienst om afbeeldingen te beoordelen die Copilot genereert, samen met de prompts waarmee gebruikers die beelden maken. De beoordelaars kiezen welke van twee gegenereerde afbeeldingen de beste is. Hun taak is niet om overtredingen van regels of wetten te signaleren.

De medewerkers kunnen prompts en afbeeldingen volgens 404 Media niet als ongepast markeren. Toch krijgen zij materiaal te zien met onder meer upskirtafbeeldingen, verzoeken om kleding korter te maken of borsten groter weer te geven, en beelden van mensen in seksueel suggestieve posities. Ook noemen de documenten proanorexiaprompts. Microsoft heeft nog niet gereageerd.

Microsoft Copilot, privacy en productkwaliteit

De werkwijze laat zien dat menselijke controle deel uitmaakt van de kwaliteitsbeoordeling van AI-afbeeldingen. Dat raakt direct aan de privacyverwachting van gebruikers: een prompt of upload kan achteraf door een medewerker worden bekeken. De beoordelaars krijgen daarbij materiaal onder ogen dat mogelijk zonder toestemming van afgebeelde personen is gemaakt.

Het bericht volgt op een eerder verhaal over medewerkers van OpenAI die ChatGPT-prompts zouden bekijken. De bron plaatst dit naast menselijke controle bij AI via beeld en geluid, zoals Meta Ray-Ban-brillen, en eerdere voorbeelden met slimme speakers. Bij zakelijk AI-gebruik lezen in veel gevallen geen medewerkers mee met prompts en uploads, maar dat verschilt per dienst en gebruikssituatie.

Concrete takeaway voor Microsoft Copilot-gebruik

Controleer vóór het uploaden van gevoelige afbeeldingen of persoonsgegevens welke menselijke beoordeling de dienst toestaat. Leg voor zakelijke toepassingen vast of prompts en uploads voor kwaliteitscontrole mogen worden ingezien, en kies waar nodig een omgeving met expliciete afspraken over die toegang.