Indignatie redactie 
Terwijl de rest van ons passief wacht op de verovering van onze geest door AI, doen de technische giganten er iets aan.
Zoals Shoshana Zuboff heeft gewaarschuwd in haar boek “The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power”, hebben de grote techreuzen een systeem gebouwd waarvan mensen afhankelijk zijn geworden voor hun sociale relaties. Maar dit “sociale” systeem is gebouwd om een fundamenteel asociaal doel te dienen. De klant is het product. En dankzij technologische vooruitgang kan het product in toenemende mate worden aangepast om de commerciële waarde ervan te maximaliseren.
Sam di Bella, die schrijft voor de LSE Review of Books, vat Zuboffs idee van “surveillance-kapitalisme” samen. Ze ziet dat het een specifieke vorm van kapitalisme is met zijn eigen regels. Het is niet gericht op het ontwerpen van een product of dienst die mensen vrij kunnen kopen, maar als een bedrijf dat ernaar streeft te profiteren ‘van het verzamelen, weergeven en analyseren van gedragsgegevens door middel van’ instrumentaire ‘methoden die zijn ontworpen om’ radicale onverschilligheid [… ] een vorm van observatie zonder getuigenis. ” Als het traditionele kapitalisme gericht was op het creëren van klantenloyaliteit, is het surveillancekapitalisme gericht op het vangen van klanten. Hoewel ze het eens is met haar proefschrift, bekritiseert Di Bella Zuboff omdat ze geen haalbare oplossingen heeft bedacht en gepromoot. Hij gelooft dat het probleem dieper en omvangrijker kan zijn dan zelfs de best geïnformeerde critici beweren.
Een artikel van Puja Das op de website Analytics Insight biedt het bewijs dat het probleem zich al heeft verdiept tot een niveau dat het vooruitzicht om het op te lossen misschien buiten bereik ligt. Facebook heeft al zoveel gegevens over ieder van ons verzameld dat het vermoedelijk meer over ons weet en begrijpt dan we ooit zelf zouden kunnen beseffen. Het maakt niet uit dat onze online activiteiten zo gevarieerd kunnen zijn als oprechte uiting van interesse, willekeurige nieuwsgierigheid, dronken jovialiteit of sarcasme. De algoritmen die ons volgen, zijn ontworpen om tot het essentiële te komen. Het draait allemaal om het bepalen welke producten we mogelijk willen kopen.
Het sociale platform beweegt zich nu naar een andere dimensie en dringt nog verder in onze ziel. Dit is wat het Analytics Insight-artikel ons vertelt: “Na de onthulling van het idee op de ontwikkelaarsconferentie van 2017, lijkt het erop dat Facebook dichter bij het realiseren van zijn hersenleescomputer is gekomen met behulp van kunstmatige intelligentie (AI).”
De definitie van de Daily Devil’s Dictionary van vandaag:
Brain-reading computer:
Een machine die zo krachtig en goed geïnformeerd is – de inhoud van elk boek dat ooit is geschreven heeft verteerd – dat hij nu voor opwinding probeert de inhoud van de menselijke hersenen te ontcijferen, die hij in de handen van deugdzame mensen ongetwijfeld alleen zal gebruiken voor de meest onschuldige doeleinden.
Contextuele opmerking
Het idee van een “hersenleescomputer” roept in ieder geval een fictieve vergelijking op met zaken als een “mensetende haai” of een ” vleesetende schimmel ” – met andere woorden, niet erg geruststellend. Zelfs ‘plastic verslindende bacteriën’, die een steeds meer vervuilde wereld enige ecologische hoop bieden, klinkt niet zo smakelijk. Het lezen van de hersenen kan ook de eerste stap zijn naar hersenspoeling.
Puja Das vertelt ons dat “het bedrijf nu beweert te werken aan een technologie die gedachten rechtstreeks van neuronen kan oppikken en in woorden kan vertalen.” Dat klinkt als een bewonderenswaardig bescheiden ambitie. Stokken en stenen zullen tenslotte onze botten breken, maar woorden zullen ons nooit pijn doen. Maar is dat alles wat Facebook wil doen?
In die termen gezegd, lijkt er een probleem te zijn in hun opvatting van gedachten. Het uitgangspunt dat de wetenschappers en AI-experts van Facebook naar voren brengen, is ofwel gevaarlijk simplistisch of (waarschijnlijker) bedrieglijk geruststellend. In plaats van te wijzen op het soort mind control en gedragsprogrammering dat de CIA ooit probeerde te bereiken in het beruchte MK-Ultra-projectToen zijn wetenschappers experimenteerden met onwetende Amerikaanse burgers met LSD, hypnose en een aantal andere drugs en gedragstechnieken, wil Facebook ons laten geloven dat de onschuldige zaken beperkt zijn tot eenvoudige pragmatische operaties die bedoeld zijn om het leven gemakkelijker te maken, vooral voor mensen met een handicap. Zoals Facebook het beschrijft, gaat hersenlezen over weinig meer dan het besturen van de gebaren die nodig zijn om door Facebook en gerelateerde software te navigeren met een muis en een toetsenbord. In zijn bescheidenheid wil het bedrijf ‘gebruikers helpen een virtueel object vast te houden, een personage in een videogame te typen en te besturen’. Het zij verre van Facebook om te proberen de resultaten van deze liefdadigheidsinspanning bij het verwerken van gedachten om te zetten in commodificeerbare en verhandelbare gegevens.
Onder toenemende druk van critici, vooral van de overheid, hebben Facebook en andere technologiegiganten zoals Google, Twitter en Apple hun uiterste best gedaan om hun vermogen te tonen om de kwade krachten in de samenleving te bestrijden die hun toevlucht hebben gezocht op hun sociale platforms. Dat heeft ertoe geleid dat ze de koninklijke macht claimen om te beslissen wat kwaad is. AI zal daar een grote rol spelen, aangezien geen enkel verstandig persoon bijvoorbeeld het oordeel van Mark Zuckerberg alleen zou vertrouwen over wat wel of niet slecht is. Das vertelt ons dat “Facebook zelfs kunstmatige intelligentie gebruikt voor verschillende zaken, van het tegengaan van de verspreiding van desinformatie op zijn sociale mediaplatforms tot het verwijderen van haatzaaiende uitlatingen, en het scannen van politieke inhoud.”
We vragen ons dus af of het de AI of een of andere commissie van Facebook-wijzen is die verantwoordelijk is, zoals Dan Tynan in The Guardian meldt , voor “het verwijderen van 800 pagina’s en accounts” waarvan wordt aangenomen dat ze “gecoördineerd niet-authentiek gedrag” promoten? Tegelijkertijd heeft YouTube kanalen gedemonetiseerdwiens meningen of overtuigingen te ver lijken te staan van wat zij als mainstream beschouwen. Met hun monopolies hebben de techreuzen op zich genomen om te beslissen welke gedachten en ideeën ‘echt’ zijn en wiens discours ‘niet authentiek’ is. Zoals ACLU-advocaat Vera Eidelman, geciteerd door The Guardian, opmerkt, zou dit “alles van een belangrijke politieke parodie tot oprechte maar bizarre opvattingen op het hakblok kunnen zetten. Het kan ook mensen kalmeren die zich alleen veilig voelen door anoniem of pseudoniem uit te spreken. “
Facebook, Google, Microsoft en de andere leveranciers van onze gemeenschappelijke sociale omgeving zullen ons vertellen dat het erom gaat de beste technologie te gebruiken om de samenleving een betere, veiligere plek te maken. “De kolos op sociale media pegt AI als het wondermiddel voor alle problemen waarmee het te maken heeft gehad en zal waarschijnlijk binnenkort worden opgelost “, aldus Mike Schroepfer , de Chief Technical Officer van Facebook. “We effenen de weg voor baanbrekende nieuwe ervaringen die zonder overdrijving de levens van miljarden mensen zullen verbeteren.” Wie zou eraan kunnen twijfelen dat als Facebook onze gedachten leert lezen, dit alleen maar bedoeld zal zijn om ons leven te verbeteren?
Historische notitie
In een artikel dat ze schreef voor de Financial Times, beweert Zuboff dat de methoden van surveillancekapitalisme “zijn uitgevonden bij Google, naar Facebook zijn gereisd, Silicon Valley hebben overspoeld en zich sindsdien hebben verspreid over elke economische sector.” Met andere woorden, dit is een diepgaande historische trend waarvan de implicaties veel verder gaan dan eenvoudige commerciële strategieën of marketinginnovaties. Historische trends hebben altijd het potentieel om een permanente kracht in het sociale landschap te worden, met een aanzienlijke impact op hoe samenlevingen en hun culturen zijn gestructureerd. De implicaties strekken zich uit tot elk domein van sociale en economische interactie.
Er is recentelijk veel gedaan over het Chinese sociale kredietsysteem dat een breed scala aan technologie gebruikt om het gedrag van zijn burgers te volgen en te modelleren om het Chinese ideaal van ‘harmonie’ te bereiken. In 2018 noemde Business Insider het “griezelig” en citeerde de rechtvaardiging van de Chinese regering: “Vertrouwen behouden is heerlijk en vertrouwen breken is schandelijk.” Maar de Chinezen verbergen niet wat ze doen en proberen het niet te verkopen als iets dat miljarden levens zal “verbeteren”. De Chinese regering heeft op transparante wijze aangekondigd wat ze doet. Hoewel het duidelijk slecht nieuws is voor iedereen die westerse individualistische waarden deelt, nodigt de Chinese cultuur dit soort sociale controle juist uit in naam van harmonie en respect voor autoriteit.
Het probleem waarmee we in het Westen worden geconfronteerd, is complexer. Individualisme beveelt dat niemand van ons zich bespioneerd wil voelen of dat onze gedachten door anderen, vooral door regeringen, gecontroleerd willen worden. Maar het economische systeem dat mensen nu spontaan volgen, heeft een andere regel opgesteld die grotendeels door de bevolking wordt geaccepteerd: als een hond die op een traktatie wacht, zullen we rechtop gaan zitten en smeken om een dienst, vooral een online dienst die ons gratis wordt aangeboden. En we zullen de gevolgen accepteren, vooral als we in het duister worden gehouden over wat die gevolgen kunnen zijn.
