Waakhond waarschuwt voor ‘roekeloze en gevaarlijke’ samenwerking tussen speelgoed- en AI-giganten
Indignatie redactie
3 min. lezen
“Dit zou voor de hand liggend moeten zijn, maar blijkbaar moeten we het zeggen: houd AI uit kinderspeelgoed”, aldus een belangenorganisatie.
De waakhondorganisatie Public Citizen veroordeelde dinsdag een onlangs onthulde “strategische samenwerking” tussen het speelgoedbedrijf Mattel en het kunstmatige-intelligentiebedrijf OpenAI, maker van ChatGPT. De organisatie beweert dat de samenwerking “roekeloos en gevaarlijk” is.
Vorige week maakten de twee bedrijven bekend een overeenkomst te hebben gesloten om “AI-gestuurde producten en ervaringen op basis van de merken van Mattel te ondersteunen.”
“Door gebruik te maken van de technologie van OpenAI brengt Mattel de magie van AI naar leeftijdsgeschikte speelervaringen, met de nadruk op innovatie, privacy en veiligheid”, aldus de verklaring. Ze verwachten later dit jaar hun eerste gedeelde product aan te kondigen.
Bovendien “zal Mattel de geavanceerde AI-hulpmiddelen van OpenAI, zoals ChatGPT Enterprise, integreren in zijn bedrijfsvoering om productontwikkeling en creatieve ideeënvorming te verbeteren, innovatie te stimuleren en de betrokkenheid van zijn publiek te verdiepen”, aldus de verklaring.
Tot de merken van Mattel behoren diverse bekende namen, zoals Barbie, Hot Wheels en Polly Pocket.
“Dit zou vanzelfsprekend moeten zijn, maar blijkbaar moeten we het zeggen: houd AI uit kinderspeelgoed. Onze kinderen mogen niet als sociaal experiment worden gebruikt. Deze samenwerking is roekeloos en gevaarlijk. Mattel moet onmiddellijk aankondigen dat het GEEN speelgoed met AI meer zal verkopen”, schreef Public Citizen dinsdag op X.
In een gerelateerde maar afzonderlijke verklaring schreef Robert Weissman, medevoorzitter van Public Citizen, dinsdag dat “het uitrusten van speelgoed met menselijke stemmen waarmee menselijke gesprekken kunnen worden gevoerd, het risico met zich meebrengt dat kinderen echte schade ondervinden.”
“Het kan de sociale ontwikkeling ondermijnen, het vermogen van kinderen om relaties met leeftijdsgenoten op te bouwen belemmeren, kinderen wegtrekken van de speeltijd met leeftijdsgenoten en mogelijk op de lange termijn schadelijk zijn”, voegde hij toe.
De verklaring van Public Citizen is niet het enige geval waarbij AI-producten voor kinderen de laatste tijd weerstand ondervonden.
Vorige maand meldde The New York Times dat Google zijn Gemini-chatbot met kunstmatige intelligentie aan het uitrollen is voor kinderen jonger dan 13 jaar die een door hun ouders beheerd Google-account hebben. Als reactie hierop lanceerde een coalitie onder leiding van Fairplay, een waakhond in de kindermedia- en marketingindustrie, en het Electronic Privacy Information Center (EPIC) een campagne om de uitrol te stoppen.
“Deze beslissing brengt ernstige risico’s met zich mee voor de privacy en online veiligheid van jonge kinderen en is waarschijnlijk in strijd met de Children’s Online Privacy Protection Act (COPPA)”, aldus een verklaring van Fairplay en EPIC.
De coalitie verwees naar de “aanzienlijke schade die AI-chatbots zoals Gemini aan kinderen toebrengen en het ontbreken van bewijs dat deze producten veilig zijn voor kinderen”. Daarom stuurde de coalitie een brief naar Google-CEO Sundar Pichai met het verzoek de uitrol op te schorten. Een tweede brief werd gestuurd naar de Federal Trade Commission, waarin de FTC werd verzocht te onderzoeken of Google COPPA heeft overtreden met de uitrol van Gemini voor kinderen jonger dan 13 jaar.
