De terugslag op de AI-overzichten van Google wordt groter nu ze voor alle Amerikaanse gebruikers verschijnen – en soms dingen overduidelijk verkeerd doen.
Google Waarom het ertoe doet: de toevoeging van door AI gegenereerde samenvattingen door de zoekgigant aan de top van de zoekresultaten zou een fundamentele verandering kunnen betekenen in wat er op internet beschikbaar is en wie daarvan profiteert.
- Veel gebruikers gebruiken Google-zoekopdrachten gewoonlijk om feiten te controleren, vooral nu AI-chatbots soms verdachte antwoorden opleveren. Nu zijn deze zoekresultaten onderhevig aan dezelfde fouten en “hallucinaties” die de chatbots teisteren.
Het nieuws aansturen: Google heeft vorige week aangekondigd dat het door AI gegenereerde samenvattingen in de VS de standaardervaring gaat maken voor veel zoekopdrachten.
- Mensen begonnen al snel talloze flagrante fouten te benadrukken , van gevaarlijk onjuist advies over wat ze moesten doen als ze door een ratelslang werden gebeten, tot een samenvatting waarin de AI van Google suggereerde dat er kinderen waren en dat ze hun favoriete recept opdienden.
- Google leek vooral problemen te hebben met gegevens over Amerikaanse presidenten, waarbij het zich vergiste over hoeveel presidenten er zijn geweest – en, nog verontrustender, de ongegronde samenzweringstheorie herhaalde dat president Obama moslim is.
- In een ander goed gepubliceerd voorbeeld werd in de samenvatting van Google voorgesteld om lijm te gebruiken om kaas op pizza te bewaren – een komisch idee dat schijnbaar uit een Reddit-post is overgenomen.
- Wat de problemen nog groter maakt, is dat AI moeite heeft om feit van satire te onderscheiden, waardoor de samenvattingen van Google de inhoud van The Onion als feit vermelden, zoals in deze thread wordt benadrukt door de nieuwe CEO van de site.
Context: Google heeft 25 jaar lang zijn reputatie op het gebied van informatie-integriteit verdedigd en enorme middelen besteed aan het verfijnen van de nauwkeurigheid van zijn zoekresultaten.
- De druk die zij uitoefenen op door AI gegenereerde resultaten brengt die reputatiereserve in gevaar.
Wat ze zeggen: “Kijk, dit gaat niet over ‘valkuilen'”, schreef voormalig Google AI-ethiekonderzoeker Margaret Mitchell.
- “Dit gaat over het wijzen op duidelijk te voorziene schade voordat – bijvoorbeeld – een kind sterft door deze puinhoop. Dit gaat niet over Google, het gaat over het voorzienbare effect van AI op de samenleving.”
Het grote plaatje: zorgen over feitelijke onjuistheden zijn nog maar het begin van de zorgen over de stap van Google. Er is ook de bredere – en waarschijnlijk veel grotere – kwestie van wat de verandering zal betekenen voor degenen die ervoor zorgen dat hun bedrijf informatie op internet publiceert.
- Gartner voorspelt een daling van het zoekmachinevolume met 25% in 2026, terwijl veel uitgevers een nog scherpere daling verwachten in het verkeer dat ze van Google en andere zoekmachines krijgen.
- Dat heeft ertoe geleid dat sommige bedrijven zich haastten om deals te sluiten met AI-bedrijven, zoals News Corp. , dat deze week een deal met OpenAI aankondigde. Anderen, waaronder de New York Times , klagen OpenAI en Microsoft aan en stellen dat de training en werking van ChatGPT in strijd is met de auteursrechtwetgeving.
- Ondertussen betekent de verschuiving van Google om AI zijn eigen antwoorden op zoekopdrachten te laten schrijven, dat het bedrijf zelf meer als een uitgever zou kunnen worden behandeld – en niet langer door Sectie 230 wordt beschermd tegen rechtszaken over de inhoud ervan.
- De samenvattingen combineren vaak stukjes tekst van verschillende websites met kleine aanpassingen, wat ervaren webwaarnemer Rusty Foster van Today in Tabs ertoe aanzet om ze te omschrijven als ‘plagiaat op grote schaal’.
Tussen de regels door: Hoewel Google misschien werkt aan het opschonen van individuele resultaten, of ervoor kiest om AI-samenvattingen voor verschillende categorieën resultaten uit te schakelen, betekent dit niet dat het product beter zal worden.
- Het web vult zich met door AI gegenereerde inhoud , die op zichzelf gevoelig is voor onnauwkeurigheid – wat betekent dat elke door AI gegenereerde samenvatting dergelijke inhoud gemakkelijk kan opschonen en naar een hoger niveau kan tillen.
- Tegelijkertijd zouden de veranderingen van Google de prikkel kunnen verminderen om nauwkeurige informatie op internet te publiceren.
- “Google en OpenAI zijn bezig met het fracken van de schat aan informatie op het internet, onttrekken er elke waarde aan en vernietigen het ecosysteem zonder een samenhangend plan voor wat het moet vervangen”, zegt Kyle Chayka van de New Yorker, die een column over dit onderwerp schreef .
De andere kant: Google-CEO Sundar Pichai stelt dat de AI-samenvattingen op de lange termijn beter zijn voor webuitgevers.
- In een interview met The Verge zei Pichai: “Als je inhoud en links in AI Overviews plaatst, krijgen ze hogere klikfrequenties dan wanneer je deze buiten AI Overviews plaatst.”
- “De voorbeelden die we hebben gezien zijn over het algemeen zeer ongebruikelijke zoekopdrachten en zijn niet representatief voor de ervaringen van de meeste mensen”, zei Google in een verklaring aan Axios. “De overgrote meerderheid van AI-overzichten biedt informatie van hoge kwaliteit, met links om dieper op internet te graven.”
Ja, maar: voor degenen onder u die zich zorgen maken over de nauwkeurigheid van de AI-samenvattingen: u kunt ze uitschakelen – althans voorlopig.