Uw Kind Bekijkt Mogelijk Al Door AI Gegenereerde Video's Op YouTube INDIGNATIE AI & Politiek

Spread the love en help Indignatie

Inhoud

Snel rijk worden oplichters zeggen dat dit een goed moment is om door AI gegenereerde kindervideo’s op YouTube te plaatsen. Indignatie heeft een aantal kanalen gevonden die gericht zijn op kinderen en die de technologie al lijken te omarmen.

Er is een geheel nieuwe manier om rijk te worden op internet, althans volgens een stortvloed aan YouTube-tutorials waarin wordt aangeprezen hoeveel geld er kan worden verdiend met behulp van AI om video’s voor kinderen te genereren. Zoeken naar hoe je kinderinhoud of -kanalen op YouTube kunt maken, levert nu tutorials op met routekaarten voor het maken van eenvoudige animaties in slechts een paar uur.

Ze pleiten voor het gebruik van tools als ChatGPT, spraaksynthesediensten ElevenLabs en Murf AI, en de generatieve AI-functies binnen Adobe Express om scripting en audio- en videoproductie te automatiseren.

“IT’S NOT HARD,” luidt de miniatuurafbeelding van een van de beste resultaten, terwijl de titel van een andere belooft dat het mogelijk is om een video te genereren met een origineel kinderliedje “In Under 20 Minutes!” De door viraliteit aangewakkerde rijkdommen die naar verluidt worden aangeboden, kunnen oogverblindend zijn. “$1,2 miljoen met AI-gegenereerde video’s voor kinderen?” de ene titel suggereert, terwijl een andere zegt: “$50.000 per MAAND!”

Omdat YouTube de meest dominante kracht is op het gebied van amusement voor jonge kinderen, zullen, als door AI gegenereerde kindervideo’s ook maar een fractie van het succes behalen dat in de side-hustle-tutorials wordt gesuggereerd, miljoenen kinderen ze zullen zien. Vorig jaar onderzocht de BBC de opkomst van ‘slechte wetenschappelijke’ video’s gericht op oudere kinderen op YouTube en identificeerde meer dan 50 kanalen die AI gebruiken om pseudowetenschap en complottheorieën te promoten, die vaak miljoenen views opleverden. Maar geanimeerde video’s gericht op jongere kinderen zijn grotendeels onbestudeerd.

Indignatie heeft verschillende accounts kunnen identificeren die door AI gegenereerde inhoud voor kinderen lijken aan te bieden, voornamelijk door te zoeken naar relatief nieuwe kanalen die een groot aantal video’s posten. Startup voor deepfake-detectie Reality Defender analyseerde monsters van verschillende van deze kanalen en vond bewijs dat generatieve AI deel uitmaakte van de productiepijplijn.

“Sommige van de video’s die we hebben gescand, bevatten een combinatie van waarschijnlijk gegenereerde scripts, waarschijnlijk gegenereerde stemmen of een combinatie van beide, wat aantoont dat generatieve tekst-naar-spraak tegenwoordig steeds gebruikelijker wordt in YouTube-video’s – zelfs voor kinderen, blijkbaar ”, zegt Ben Colman, CEO van Reality Defender.

Eén kanaal, ja! Neo heeft meer dan 970.000 abonnees en de video’s worden regelmatig meer dan een miljoen keer bekeken. Sinds de lancering in november 2023 heeft het regelmatig om de paar dagen een nieuwe video gepubliceerd, met titels als “Ouch! Baby Got a Boo Boo” en “Poo Poo Song.” (Kak is een blijvende fascinatie van kinderen op YouTube en muziekstreamingdiensten .) Reality Defender analyseerde het getranscribeerde script van een voorbeeldvideo, ‘Caring for Injured Baby Dino’, en ontdekte dat het 98 procent waarschijnlijk door AI was gegenereerd.

De zender Super Crazy Kids, geproduceerd door een bedrijf in Hyderabad, India, lijkt ook AI-tools te integreren in de productie van zijn recentere animatievideo’s. Het heeft meer dan 11 miljoen abonnees. Reality Defender analyseerde een voorbeeldvideo en ontdekte dat er ‘synthetische stemfragmenten’ aanwezig waren. (De titel van de video is een verdraaiing van trefwoorden: “Pig Finger Family Song Baby Nursery Rhymes Colourful Cars Colors for Kids 45 Mins Collection Video.”) De zender beschouwt zichzelf als educatief en bestempelt haar video’s vaak als manieren om kleuren, vormen en vormen te leren. cijfers.

Geen van beide Ja! Neo noch Super Crazy Kids reageerden op het verzoek van Indignatie om commentaar.

Weinig grenzen

Ja! Neo, Super Crazy Kids en andere vergelijkbare kanalen hebben een gemeenschappelijk uiterlijk: ze bieden 3D-animatie in een stijl die lijkt op Cocomelon, het populairste kinderkanaal van YouTube in de VS. (Dana Steiner, woordvoerder van Cocomelon’s moederbedrijf Moonbug, zegt dat geen van de shows momenteel AI gebruikt, “maar ons getalenteerde creatieve team onderzoekt altijd nieuwe tools en technologieën.”)

YouTube

Deze vertrouwde esthetiek betekent dat een drukke ouder die snel naar een scherm kijkt, de AI-inhoud kan verwarren met een programma dat hij of zij heeft gecontroleerd. En ook al is het niet bijzonder goed gemaakt, de inhoud van de video’s die door deze kanalen worden uitgezonden, heeft de neiging slordig te zijn, net zoals veel van het hedendaagse, door mensen gemaakte kinderamusement slordig is: hectisch, luidruchtig, niet origineel.

YouTube is bezig met het introduceren van nieuw beleid voor door AI gegenereerde inhoud, hoewel het bedrijf niet van plan is dit aanzienlijk te beperken. “YouTube introduceert binnenkort inhoudslabels en openbaarmakingsvereisten voor videomakers die inhoud uploaden die realistisch gewijzigd of synthetisch materiaal bevat, inclusief inhoud die is gericht op kinderen en gezinnen”, zegt YouTube-woordvoerder Elena Hernandez.

Toen Indignatie vroeg of YouTube proactief op zoek zou gaan naar door AI gegenereerde inhoud en deze als zodanig zou bestempelen, zei Hernandez dat meer details later zullen komen, maar dat het van plan is voornamelijk te vertrouwen op vrijwillige openbaarmaking. “Onze belangrijkste aanpak zal zijn om van makers te eisen dat ze zelf bekendmaken wanneer ze gewijzigde of synthetische inhoud hebben gemaakt die realistisch is.” Het bedrijf zegt dat het een combinatie van geautomatiseerde filters, menselijke beoordelingen en gebruikersfeedback gebruikt om te bepalen welke inhoud toegankelijk is in de beperktere YouTube Kids-service .

Iets dat wordt gegenereerd om oogbollen te vangen; je zou niet verwachten dat het enige positieve impact zal hebben.

Sommigen vrezen dat YouTube en ouders over de hele wereld niet voldoende zijn voorbereid op de komende golf van door AI gegenereerde kinderinhoud. Neurowetenschapper Erik Hoel heeft onlangs enkele tutorials bekeken over het maken van content voor kinderen met AI, evenals enkele video’s waarvan hij vermoedde dat ze met behulp van de technologie waren gemaakt. Hoel was zo onrustig door wat hij zag dat het in strijd was met het concept op zijn Substack, onder meer door Super Crazy Kids uit te kiezen.

“Overal in het land worden peuters voor iPads neergezet en blootgesteld aan synthetische afvoer, verstoken van menselijk contact, zelfs in de media die ze consumeren”, schreef hij . “Er is geen ander woord dan dystopisch.”

De waarschuwing van Hoel herinnert aan het laatste grote schandaal rond kinder-YouTube, genaamd ‘Elsagate’. Het begon in 2017 toen mensen op het platform surrealistische en verontrustende video’s opmerkten die op kinderen waren gericht, vaak met populaire personages als Elsa uit Disney’s Frozen , Spiderman en de titulaire varkensheld uit Peppa Pig . Hoewel door AI gegenereerde inhoud nog geen vergelijkbaar dieptepunt heeft bereikt, lijken de makers ervan een soortgelijk doel na te streven: de aandacht trekken van de geautomatiseerde aanbevelingen van YouTube.

Creatieve babypadre

Sommige meer obscure AI-videokanalen begeven zich al op vreemd terrein. De zender Brain Nursey Egg TV geeft zijn verontrustende video’s bijvoorbeeld namen als ‘Cars for Kids’. Trailer van de dia met songteksten.” De beschrijving van de video bestaat uit een gigantische reeks trefwoorden, waaronder “disney junior elimi birakma 24 chima sorozat BeamNG-Destruction en meer babanın çiftliği şarkısı la brujita creative baby padre Finger.”

De plotloze video is een samensmelting van glitchy beelden zoals zwevende oogbollen en smeltende kleurblokken. De soundtrack bevat applaudisserende kinderen, een tellende robotstem, lachende individuele baby’s en verschillende robotstemmen die met schijnbaar willekeurige tussenpozen het woord ‘YouTube’ intoneren. “Dit heeft overal stemmen gegenereerd en wordt aangedreven door een door AI gegenereerd script of is misschien wel een van de grootste en meest onderschatte werken van surrealistische videokunst in de recente geschiedenis”, zegt Colman van Reality Defender.

Hoe dan ook, dit soort inhoud heeft nog niet veel aandacht gekregen: sommige video’s van het kanaal zijn slechts een handvol keer bekeken. Brain Nursery Egg TV biedt geen e-mailadres of andere manier om contact op te nemen met degenen die het kanaal runnen.

Een door AI gegenereerde live knock-off van Spongebob Squarepants genaamd AISponge onthult dat het een kunstproject is dat gebruik maakt van AI. Hoewel het een kinderprogramma is, vraagt het verhaallijnen van het publiek, dat de neiging heeft om beslist volwassen onderwerpen aan te bieden. Eén aflevering die Indignatie beoordeelde, concentreerde zich op arbeidsonrust in het ersatz Krusty Krab fastfoodrestaurant; verschillende karakters waren verontwaardigd over de lage salarissen die de heer Krab betaalde. In een andere instrueert Spongebob zijn vriend Patrick, een zeester, zorgvuldig hoe hij zijn testikels moet scheren. (“Maak een neerwaartse beweging.”)

Een paar reguliere kinderprogramma’s op YouTube hebben AI openlijk omarmd. Kartoon Studios, voorheen Genius Brands International, heeft het gebruik van AI gepromoot in kinderprogramma’s Kidaverse Fun Facts en Warren Buffett’s Secret Millionaires Club , die beide beschikbaar zijn op YouTube.

Buiten YouTube experimenteren ook andere prominente makers van kinderinhoud. PBS Kids, een vaandeldrager van hoogwaardig kinderentertainment, onderzoekt het gebruik van AI om interactieve digitale afleveringen te maken van shows als Lyla in the Loop en Elinor Wonders Why. Maar dit project zal geen generatieve AI gebruiken om inhoud te creëren. “Deze AI wordt gebruikt om gebruikersreacties te decoderen en de vooraf geschreven karakterreacties in de aflevering te begeleiden”, zegt Lubna Abuulbah, senior director bij PBS Kids Communications.

AI-tools kunnen, als ze op een doordachte, doelbewuste manier worden gebruikt, een zegen zijn. Abuulbah haalt onderzoek aan dat aangeeft dat AI-geleide interactieve programma’s krachtige leermiddelen kunnen zijn. David Bickham, onderzoeksdirecteur van het Digital Wellness Lab van het Boston Children’s Hospital, zegt dat het soort applicatie dat PBS Kids ontwikkelt ‘echt veelbelovend’ is. Maar hij ziet de bredere drang om snel rijk te worden met de inhoud van AI-kinderen als een opening van de sluizen voor een nieuwe golf rommel. “Iets dat volledig is gegenereerd om oogbollen te vangen, je zou niet verwachten dat het enige educatieve of positieve positieve impact zou hebben.”

De programmering van Bad Kid bestond al vóór de AI-hausse op YouTube, en daarvoor ook op tv. De voornaamste bedreiging die door generatieve AI-tools wordt gecreëerd, zou eenvoudigweg kunnen zijn dat het veel gemakkelijker wordt om kinderprogramma’s in een versneld tempo uit te brengen – vergelijkbaar met de impact van de technologie op webinhoud .

“De formule om de beste dingen te creëren is een grondig proces”, zegt Bickham, waarbij hij opmerkt dat programma’s als Sesamstraat de geplande lessen minutieus aan echte kinderen geven voordat ze op televisie worden omgezet. Het opblazen van YouTube met haastig samengestelde AI-slijm-voor-peuters vergt een tegenovergestelde benadering, waarbij het zich bezighoudt met doorvoer, algoritmische versterking en het genereren van inkomsten in plaats van het daadwerkelijk verrijken van de levens van kinderen.

Bovendien, omdat AI-tools het proces van het maken van een show automatiseren, kijken kanalen die zich richten op het publiceren van zoveel mogelijk video’s mogelijk niet eens naar hun output voordat anderen deze zien. “Er zal geen manier zijn om noodzakelijkerwijs te weten hoeveel van de door AI gegenereerde inhoud door mensen wordt beoordeeld voordat deze ergens wordt geplaatst”, zegt Tracy Pizzo Frey, senior adviseur van AI voor de mediageletterdheid non-profitorganisatie Common Sense Media.

Het aanstaande beleid van YouTube lijkt het mogelijk te maken dat kinderkanalen AI-inhoud kunnen posten zonder dat ook maar een paar mensen er naar kijken, zolang ze maar worden onthuld als door AI gegenereerd. En slechte acteurs kunnen er simpelweg voor kiezen om hun video’s niet te markeren en kijken hoe lang ze weg kunnen komen met het aanbieden van niet-gecontroleerde robotinhoud aan kinderen.

Pizzo Frey vindt dat zowel makers als platforms als YouTube verantwoording moeten afleggen over wat ze kinderen aandoen. “Betekenisvol menselijk toezicht, vooral op generatieve AI, is ongelooflijk belangrijk”, zegt ze. “Die verantwoordelijkheid mag niet volledig op de schouders van gezinnen liggen.”