Het AI-overzicht van Google lijkt onnauwkeurige, gevaarlijke antwoorden te geven

Google zegt dat je lijm door je kaas moet mengen als je een pizza maakt. Gebruikers van sociale media zijn sceptisch

De nieuwe “AI Overview”-functie van Google, die geaggregeerde resultaten weergeeft die zijn samengesteld door kunstmatige intelligentie boven sommige zoekresultaten, lijkt onnauwkeurige en, in sommige gevallen, gevaarlijke resultaten te geven.

Gebruikers van sociale media wezen er onmiddellijk op dat de functie – die eerder deze maand voor het publiek werd gelanceerd en de organische zoekresultaten vervangt – enkele dubieuze reacties opleverde. De engine, die een marktaandeel van meer dan 90% heeft in de zoekruimte, gaf advies over kaas die van een pizza gleed en deed wat wenkbrauwen fronsen: meng lijm door de kaas.

Google is dead beyond comparison pic.twitter.com/EQIJhvPUoI

— PixelButts (@PixelButts) May 22, 2024

Maar onsmakelijke recepten zijn niet de meest schadelijke resultaten die deze functie kan veroorzaken. Per X-gebruiker reageerde Google op een vraag over het ontsmetten van een wasmachine met een potentieel dodelijk recept voor mosterdgas (een bedreiging die de AI-functie via een zoekopdracht bevestigde ).

it’s very impressive how the obnoxious Google AI thing at the top of all search results now is unconditionally wrong at interpreting what the question was while also delivering new, entirely wrong answers to the question it made up

— Lead Actor from Pixar’s Sodas (@ByYourLogic) May 15, 2024

En hoewel veel grote taalmodellen, waaronder OpenAI’s Chat GPT en Meta’s Llama, zonder toestemming het internet afstruinen op zoek naar trainingsgegevens, lijkt de overzichtsfunctie van Google behoorlijk flagrant in zijn plagiaat. Volgens een X-gebruiker heeft Google de term ‘de favoriet van mijn kind’ toegevoegd aan een smoothierecept, waarbij hij de taal leende van een receptenwebsite die een soortgelijk brouwsel plaatste.

Aww, I didn't know Google AI Overviews had kids 🫶 pic.twitter.com/oB8mXoeKKm

— Lily Ray 😏 (@lilyraynyc) May 22, 2024

Google, dat de functie ontwikkelt als reactie op Bing CoPilot van Microsoft en Open AI, beweert dat het programma kleinere sites ten goede komt, hun inhoud in de resultaten haalt en meer zoekers bereikt.

“Met AI Overviews bezoeken mensen een grotere diversiteit aan websites voor hulp bij complexere vragen”, aldus een aankondiging van de functie. “We zien dat de links in AI Overviews meer klikken genereren dan wanneer de pagina als traditionele webvermelding voor die zoekopdracht zou verschijnen.”

Critici zijn bang dat de door AI gegenereerde resultaten daadwerkelijk zullen voorkomen dat er wordt doorgeklikt naar de oorspronkelijke aanbieders van de informatie die Google verzamelt, waardoor uiteindelijk de publicaties waarop AI Overview vertrouwt, zullen uitsterven. De News Media Alliance, een orgaan dat uitgevers vertegenwoordigt, riep op tot meer actie tegen AI-modellen die zonder toestemming op inhoud trainen.

“AI-bedrijven erkennen de waarde van deze inhoud, zoals blijkt uit marktafspraken, en vertrouwen op hoogwaardige inhoud om hun systemen te trainen. Het voortdurende onbeperkte gebruik door AI-bedrijven van de waardevolle inhoud van uitgevers zonder de juiste compensatie is onwettig”, zei Alliance-president en CEO Danielle Coffey in een verklaring over juridische stappen tegen OpenAI.

Google voegt onder de door AI gegenereerde resultaten de mededeling ‘generatieve AI is experimenteel’ toe, maar de resultaten vormen nog steeds een uitdaging in een tijdperk van groeiende afhankelijkheid van door computers gegenereerde inhoud.

Als je op zoek bent naar alternatieven voor de zoekmachine van technologiegigant Alphabet, luister dan naar het advies van de AI en probeer een zoekmachine die daadwerkelijk “prioriteit geeft aan wat je zoekt, zonder vooringenomenheid.”