Indignatie redactie 
AI – Keer op keer hebben vooraanstaande wetenschappers, technologen en filosofen spectaculair verschrikkelijke gissingen gedaan over de richting van innovatie. Zelfs Einstein was niet immuun en beweerde: “Er is niet de geringste aanwijzing dat kernenergie ooit verkrijgbaar zal zijn”, slechts tien jaar voordat Enrico Fermi de bouw van de eerste splijtingsreactor in Chicago voltooide. Kort daarna veranderde de consensus in de vrees voor een dreigende nucleaire holocaust.
Op dezelfde manier waarschuwen hedendaagse experts dat een dag des oordeels op het gebied van de kunstmatige algemene intelligentie (AGI) op handen is. Anderen antwoorden dat grote taalmodellen (LLM’s) het hoogtepunt van hun kunnen al hebben bereikt.
Het is moeilijk om in te gaan tegen de invloedrijke stelling van David Collingridge dat het een dwaasheid is om te proberen de risico’s van nieuwe technologieën te voorspellen. Gegeven het feit dat onze vooraanstaande wetenschappers en technologen zich doorgaans zo vergissen in de technologische evolutie, welke kans hebben onze beleidsmakers dan om de opkomende technologische risico’s van kunstmatige intelligentie (AI) effectief te reguleren?
We moeten acht slaan op de waarschuwing van Collingridge dat technologie zich op onzekere manieren ontwikkelt. Er is echter één klasse van AI-risico’s die doorgaans vooraf bekend zijn. Dit zijn risico’s die voortkomen uit een slechte afstemming tussen de economische prikkels van een bedrijf om op een bepaalde manier te profiteren van zijn eigen AI-model en de belangen van de samenleving bij de manier waarop het AI-model in geld moet worden omgezet en ingezet.
De zekerste manier om een dergelijke verkeerde afstemming te negeren is door uitsluitend te focussen op technische vragen over de mogelijkheden van AI-modellen, los van de sociaal-economische omgeving waarin deze modellen zullen opereren en ontworpen zijn voor winst.
Focussen op de economische risico’s van AI gaat niet alleen over het voorkomen van ‘monopolie’, ‘eigen voorkeur’ of ‘Big Tech-dominantie’. Het gaat erom ervoor te zorgen dat het economische klimaat dat innovatie mogelijk maakt, geen prikkel geeft tot moeilijk te voorspellen technologische risico’s, omdat bedrijven “snel handelen en dingen kapot maken” in een race om winst of marktdominantie.
Het gaat er ook om ervoor te zorgen dat de waarde van AI breed wordt gedeeld, door voortijdige consolidatie te voorkomen. We zullen meer innovatie zien als opkomende AI-tools voor iedereen toegankelijk zijn, zodat er een verspreid ecosysteem van nieuwe bedrijven, start-ups en AI-tools kan ontstaan.
OpenAI wordt nu al een dominante speler met een jaarlijkse omzet van 2 miljard dollar en miljoenen gebruikers. De GPT-opslag- en ontwikkelaarstools moeten waarde teruggeven aan degenen die het creëren om ervoor te zorgen dat ecosystemen van innovatie levensvatbaar en verspreid blijven.
Door het systeem van economische prikkels die ten grondslag liggen aan innovaties en de manier waarop technologieën in de praktijk worden gemonetariseerd zorgvuldig te onderzoeken, kunnen we een beter inzicht krijgen in de risico’s, zowel economisch als technologisch, die worden gevoed door de structuur van een markt. De marktstructuur is niet simpelweg het aantal bedrijven, maar de kostenstructuur en economische prikkels op de markt die voortvloeien uit de instellingen, aangrenzende overheidsregelgeving en beschikbare financiering.
Verlaagde kwaliteit voor hogere winst
Het is leerzaam om te bedenken hoe de algoritmische technologieën die ten grondslag lagen aan de oude aggregatorplatforms (denk aan onder andere Amazon, Google en Facebook) aanvankelijk werden ingezet ten behoeve van gebruikers, uiteindelijk werden geherprogrammeerd om de winst voor het platform te vergroten.
De problemen die worden veroorzaakt door sociale media, zoek- en aanbevelingsalgoritmen waren nooit een technische kwestie, maar een kwestie van financiële prikkels (van winstgroei) die niet in lijn waren met de veilige, effectieve en rechtvaardige inzet van algoritmen. Zoals het gezegde luidt : de geschiedenis herhaalt zich niet noodzakelijkerwijs, maar rijmt wel.
Om te begrijpen hoe platforms waarde aan zichzelf toekennen en wat we eraan kunnen doen, hebben we de rol van algoritmen en de unieke informatieve opzet van digitale markten onderzocht bij het verkrijgen van zogenaamde economische opbrengsten van gebruikers en producenten op platforms. In de economische theorie zijn huren ‘supernormale winsten’ (winsten die hoger liggen dan wat haalbaar zou zijn in een concurrerende markt) en weerspiegelen ze de controle over een schaarse hulpbron.
Belangrijk is dat huurprijzen een pure terugkeer naar eigendom of een zekere mate van monopoliemacht zijn, en niet een rendement dat wordt verdiend door iets te produceren op een concurrerende markt (zoals veel producenten die auto’s maken en verkopen). Voor digitale platforms betekent het extraheren van digitale opbrengsten doorgaans een verslechtering van de kwaliteit van de informatie die aan de gebruiker wordt getoond, op basis van het feit dat zij toegang hebben tot een grote groep klanten.
De miljoenen gebruikers van Amazon vertrouwen bijvoorbeeld op de productzoekalgoritmen om hen de beste producten te tonen die te koop zijn, omdat ze niet elk product afzonderlijk kunnen inspecteren. Deze algoritmen besparen iedereen tijd en geld: door gebruikers te helpen bij het navigeren door duizenden producten om de producten met de hoogste kwaliteit en de laagste prijs te vinden, en door het marktbereik van leveranciers uit te breiden via de bezorginfrastructuur en het immense klantennetwerk van Amazon.
Deze platforms maakten de markten efficiënter en leverden enorme waarde op voor zowel gebruikers als productleveranciers. Maar na verloop van tijd heeft een verkeerde afstemming tussen de aanvankelijke belofte dat ze gebruikerswaarde zouden bieden en de noodzaak om de winstmarges uit te breiden naarmate de groei vertraagt, geleid tot slecht platformgedrag. De reclameactiviteiten van Amazon zijn hiervan een voorbeeld.
De reclame van Amazon
In ons onderzoek op Amazon hebben we ontdekt dat gebruikers nog steeds de neiging hebben om op de productresultaten bovenaan de pagina te klikken, zelfs als dit niet langer de beste resultaten zijn, maar in plaats daarvan betaalde advertentieplaatsingen. Amazon misbruikt het vertrouwde vertrouwen dat gebruikers in zijn algoritmen zijn gaan stellen, en wijst in plaats daarvan de aandacht en klikken van gebruikers toe aan gesponsorde informatie van inferieure kwaliteit waar het enorm van profiteert .
We ontdekten dat de meest aangeklikte gesponsorde producten (advertenties) gemiddeld 17% duurder waren en 33% lager gerangschikt volgens Amazon’s eigen kwaliteits-, prijs- en populariteitsoptimalisatie-algoritmen. En omdat productleveranciers nu moeten betalen voor de productrangschikking die ze voorheen verdienden door productkwaliteit en reputatie, dalen hun winsten naarmate die van Amazon stijgen, en stijgen de prijzen naarmate een deel van de kosten wordt doorberekend aan klanten.
Amazon is een van de meest opvallende voorbeelden van een bedrijf dat zich afwendt van zijn oorspronkelijke ‘deugdzame’ missie (‘het meest klantgerichte bedrijf ter wereld zijn’) naar een extractief bedrijfsmodel. Maar het is verre van alleen.
Google, Meta en vrijwel alle andere grote online-aggregators zijn in de loop van de tijd hun economische belangen gaan verkiezen boven hun oorspronkelijke belofte aan hun gebruikers en aan hun ecosystemen van inhoud- en productleveranciers of applicatieontwikkelaars. Sciencefictionschrijver en activist Cory Doctorow noemt dit de ‘enshittificatie’ van Big Tech-platforms.
Maar niet alle huurprijzen zijn slecht. Volgens de econoom Joseph Schumpeter kunnen de opbrengsten die een bedrijf ontvangt uit innovatie gunstig zijn voor de samenleving . De platforms van Big Tech hebben vooruitgang geboekt dankzij zeer innovatieve, superieure, algoritmische doorbraken. De huidige marktleiders op het gebied van AI doen hetzelfde.
Dus terwijl de Schumpeteriaanse huurprijzen reëel en gerechtvaardigd zijn, begonnen marktleiders in de loop van de tijd en onder externe financiële druk hun algoritmische marktmacht te gebruiken om een groter deel van de waarde te veroveren die werd gecreëerd door het ecosysteem van adverteerders, leveranciers en gebruikers om winst te behouden. groeien.
Gebruikersvoorkeuren werden gedegradeerd in algoritmisch belang ten gunste van meer winstgevende inhoud. Voor sociale-mediaplatforms was dit verslavende inhoud om de tijd die op het platform werd doorgebracht te vergroten, ten koste van de gezondheid van de gebruiker . Ondertussen hebben de ultieme leveranciers van waarde voor hun platform – de makers van inhoud, website-eigenaren en verkopers – een groter deel van hun opbrengsten aan de platformeigenaar moeten overhandigen. In dit proces zijn de winsten en winstmarges geconcentreerd geraakt in de handen van een paar platforms, waardoor innovatie door externe bedrijven moeilijker wordt.
Een platform dat zijn ecosysteem van bedrijven dwingt om steeds hogere vergoedingen te betalen (in ruil voor niets van gelijke waarde aan beide kanten van het platform) kan niet worden gerechtvaardigd. Het is een rood licht dat het platform een zekere mate van marktmacht heeft die het uitbuit om onverdiende huurgelden binnen te halen. Uit de meest recente kwartaalcijfers van Amazon (Q4, 2023) blijkt dat de online omzet jaar-op-jaar met 9% groeit, maar dat de vergoedingen met 20% (diensten van derden) en 27% (advertentieverkoop) stijgen.
Wat belangrijk is om te onthouden in de context van risico en innovatie is dat deze winstgevende inzet van algoritmische technologieën door Big Tech geen onkenbaar risico is, zoals geïdentificeerd door Collingridge. Het is een voorspelbaar economisch risico. Het nastreven van winst via de exploitatie van de schaarse hulpbronnen waarover men controle heeft, is een verhaal dat zo oud is als de handel zelf.
Technologische waarborgen voor algoritmen, evenals meer gedetailleerde openbaarmaking over de manier waarop platforms geld verdienden met hun algoritmen, hebben mogelijk voorkomen dat dergelijk gedrag heeft plaatsgevonden. Algoritmen zijn marktpoortwachters en waardetoewijzers geworden, en worden nu producenten en arbiters van kennis.
Risico’s van de volgende generatie AI
De beperkingen die we stellen aan algoritmen en AI-modellen zullen een belangrijke rol spelen bij het richten van de economische activiteit en de menselijke aandacht op productieve doeleinden. Maar hoeveel groter zijn de risico’s voor de volgende generatie AI-systemen? Ze zullen niet alleen bepalen welke informatie ons wordt getoond, maar ook hoe we denken en ons uitdrukken. Centralisatie van de macht van AI in de handen van een paar winstgedreven entiteiten die waarschijnlijk in de toekomst te maken zullen krijgen met economische prikkels voor slecht gedrag is beslist een slecht idee.
Gelukkig staat de samenleving niet hulpeloos bij het vormgeven van de economische risico’s die steevast ontstaan na elke nieuwe innovatie. Risico’s die voortvloeien uit de economische omgeving waarin innovatie plaatsvindt, zijn niet onveranderlijk. De marktstructuur wordt gevormd door toezichthouders en de algoritmische instellingen van een platform (vooral de algoritmen die marktachtige toewijzingen maken). Samen beïnvloeden deze factoren hoe sterk de netwerkeffecten en schaal- en reikwijdtevoordelen in een markt zijn, inclusief de beloningen voor marktdominantie.
Technologische mandaten zoals interoperabiliteit , wat verwijst naar het vermogen van verschillende digitale systemen om naadloos samen te werken; of “side-loading”, de praktijk waarbij apps worden geïnstalleerd vanuit andere bronnen dan de officiële winkel van een platform, hebben de vloeibaarheid van gebruikersmobiliteit binnen en tussen markten gevormd, en op zijn beurt het vermogen van elke dominante entiteit om zijn gebruikers en ecosysteem duurzaam te exploiteren. De internetprotocollen hielpen het internet open te houden in plaats van gesloten. Dankzij open source-software kon het bedrijf ontsnappen aan het dominante monopolie van het pc-tijdperk. Welke rol kunnen interoperabiliteit en open source spelen om van de AI-industrie een meer concurrerende en inclusieve markt te houden?
Openbaarmaking is een ander krachtig instrument voor marktvorming. Openbaarmakingen kunnen van technologiebedrijven eisen dat zij transparante informatie en uitleg geven over hun producten en strategieën voor het genereren van inkomsten. Verplichte openbaarmaking van de hoeveelheid advertenties en andere bedrijfsgegevens had kunnen helpen voorkomen dat Facebook bijvoorbeeld de privacy van zijn gebruikers zou misbruiken om de advertentiedollars uit het verzamelen van de gegevens van elke gebruiker te maximaliseren.
Maar een gebrek aan dataportabiliteit en het onvermogen om de algoritmen van Facebook onafhankelijk te controleren, zorgden ervoor dat Facebook langer van zijn surveillancesysteem bleef profiteren dan nodig was. Tegenwoordig weigeren OpenAI en andere toonaangevende leveranciers van AI-modellen hun trainingsdatasets openbaar te maken, terwijl er vragen rijzen over inbreuk op het auteursrecht en wie het recht zou moeten hebben om te profiteren van door AI ondersteunde creatieve werken . Openbaarmakingen en open technologische standaarden zijn belangrijke stappen om ervoor te zorgen dat de voordelen van deze opkomende AI-platforms zo breed mogelijk worden gedeeld.
De marktstructuur, en de impact ervan op ‘wie krijgt wat en waarom’, evolueert naarmate de technologische basis voor de manier waarop bedrijven op een markt mogen concurreren, evolueert. Misschien is het dus tijd om onze blik op regelgeving af te wenden van pogingen om de specifieke risico’s te voorspellen die kunnen ontstaan als specifieke technologieën zich ontwikkelen. Zelfs Einstein kon dat tenslotte niet.
In plaats daarvan moeten we proberen de economische prikkels die ten grondslag liggen aan de huidige innovaties opnieuw te kalibreren, weg van risicovol gebruik van AI-technologie en naar open, verantwoordelijke AI-algoritmen die waarde op een rechtvaardige manier ondersteunen en verspreiden. Hoe eerder we erkennen dat technologische risico’s vaak een uitvloeisel zijn van slecht op elkaar afgestemde economische prikkels, des te sneller kunnen we eraan werken om herhaling van de fouten uit het verleden te voorkomen.
Wij zijn er niet tegen dat Amazon advertentiediensten aanbiedt aan bedrijven op zijn externe marktplaats. Een passende hoeveelheid advertentieruimte kan inderdaad minder bekende bedrijven of producten, met een concurrerend aanbod, helpen om op een eerlijke manier grip te krijgen. Maar wanneer reclame de resultaten van biologische producten met de hoogste ranking bijna volledig verdringt, wordt reclame een instrument voor het extraheren van inkomsten voor het platform.
Een Amazon-woordvoerder zei:
Wij zijn het niet eens met een aantal conclusies uit dit onderzoek, die de beperkte gegevens die het gebruikt, verkeerd voorstellen en overdrijven. Er wordt voorbijgegaan aan het feit dat de verkopen van onafhankelijke verkopers, die sneller groeien dan die van Amazon, bijdragen aan de inkomsten uit diensten, en dat veel van onze advertentiediensten niet in de winkel verschijnen.
Amazon wil het leven van klanten gemakkelijker maken en een groot deel daarvan is ervoor zorgen dat klanten snel en gemakkelijk de producten kunnen vinden en ontdekken die ze in onze winkel willen. Advertenties zijn al tientallen jaren een integraal onderdeel van de detailhandel en elke keer dat we ze opnemen, worden ze duidelijk gemarkeerd als ‘Gesponsord’. We bieden een mix van organische en gesponsorde zoekresultaten op basis van factoren als relevantie, populariteit bij klanten, beschikbaarheid, prijs en snelheid van levering, samen met handige zoekfilters om de resultaten te verfijnen. We hebben ook miljarden geïnvesteerd in de tools en diensten voor verkopers om hen te helpen groeien, en aanvullende diensten zoals reclame en logistiek zijn volledig optioneel.
