Indignatie redactie 
Veel boeken over kunstmatige intelligentie (AI) belichten de pathologieën van AI. Deze pathologieën worden veroorzaakt door kunstmatige intelligentie, of beter gezegd kunstmatige ‘ intelligentie ‘, aangezien AI mogelijk niet zo intelligent is. is .
Bovendien is het gebruik van de term ‘ machine learning ’ wellicht passender dan kunstmatige intelligentie, zoals blijkt uit een recent boek over AI – Democracy for the People illustreert.
Onder de vele bekende en minder bekende gevallen van pathologische AI – zou men een geval van kindermishandeling kunnen noemen noemen .
In dit geval werd machine learning gebruikt om de juiste agenten om de juiste redenen naar het juiste huis te sturen. Dit kon – zodra de besluitvorming aan een machine is overgedragen – vreselijk misgaan wanneer deze van mens naar machine wordt overgedragen.
Met de waarschuwing om mensen te vervangen door machines, is het doel van het boek om te onderzoeken hoe we democratie kunnen laten werken in het komende tijdperk van machinaal leren. .
Door dat te doen, zou men zich kunnen richten op de politieke aspecten van machine learning. Na het overwinnen van de ideologische misvattingen van techno-determinisme , zou dit zelfs kunnen leiden tot een politieke theorie. over machine learning.
Als het gaat om de politiek van machinaal leren, biedt machinaal leren twee fundamentele beloften:
- de belofte van efficiëntie – kunstmatige intelligentie of machine learning zal alles efficiënter maken; en
- de belofte van eerlijkheid – kunstmatige intelligentie of machinaal leren zal op magische wijze leiden tot meer eerlijkheid in het bedrijfsleven, de administratie, het onderwijs en de samenleving,
Efficiëntie is in wezen de versleten natte droom van het management. Het is een van de meest geliefde legitimerende ideologieën van het management – we zijn efficiënt en maken alles veel efficiënter, en daarom hebben we bestaansrecht. Onverstoorbaar zouden de apostelen van het management zelfs beloven om “liefde” efficiënter te maken.
Intussen wordt het gebruikt om vrijwel alles wat het management doet te rechtvaardigen – van milieuvernieling door bedrijven tot alledaagse criminaliteit in het bedrijfsleven. van bedrijven en nog veel meer.
Management presenteert efficiëntie als een eeuwige zoektocht waaraan alle werknemers moeten gehoorzamen. Eerlijkheid is daarentegen een volkomen menselijke – zo niet filosofische – drijfveer. – concept.
Eerlijkheid – in filosofische termen of anderszins – kan nauwelijks worden overgedragen op een machine. Kortom, machine learning zal op beide vlakken veel problemen opleveren: efficiëntie en eerlijkheid.
In plaats van de valse belofte van eerlijkheid weerspiegelen machine learning-systemen historische ongelijkheden en versterken ze deze in sommige gevallen niet alleen, maar vergroten ze deze ook. .
Ten eerste houden de modellen die in machine learning worden gebruikt vaak een afweging in tussen complexiteit, nauwkeurigheid en foutpercentages. Dit kan, opzettelijk of onopzettelijk, de ongelijkheden vergroten.
Zorgelijk is dat machine learning de macht van de instellingen die het ontwerpen en gebruiken, zowel versterkt als verhult.
Machine learning structureert niet alleen communicatie, maar stuurt deze ook aan. Het stuurt de communicatie aan, zodat wat gezien wordt en, vaak nog belangrijker, wat ‘niet’ gezien wordt, bedrijven en het kapitalisme ondersteunt.
Met andere woorden: machinaal leren is onlosmakelijk verbonden met communicatie, dominantie, kapitalisme en controle.
Om deze realiteit te verdoezelen, wordt de politiek van machine learning vaak begraven in technische details. Toch draait machine learning om de maatschappij – niet om wiskunde. Het kan zelfs een wapen van wiskundige vernietiging worden. worden .
Daarnaast is machine learning er om de geschiedenis van systematisch racisme in bijvoorbeeld het Amerikaanse strafrechtsysteem een boost te geven en, om het beleefd te zeggen, een beetje te verwarren. Machine learning doet drie dingen:
- machinaal leren creëert een schadelijke feedbacklus die stereotypering, onverdraagzaamheid, racisme, armoede en ongelijkheid versterkt;
- Machine learning rechtvaardigt meer toezicht, meer politie en meer politieoptreden, ook al zijn gevangenissen na meer dan 400 jaar gevangenissen en de aanhoudende criminaliteit misschien niet het antwoord op criminaliteit;
- Machine learning – en dat is misschien nog wel het ergste – is een politiek instrument dat de sporen van onrecht in de toekomst achterlaat – het creëert een onrechtvaardige wereld.
Bovenal schuilt nog steeds het winstmotief van het kapitalisme. Facebook gebruikt bijvoorbeeld machine learning om zijn advertentiesysteem aan te sturen dat advertenties verspreidt onder zijn 2,9 miljard gebruikers.
Dit is niet alleen het punt waarop miljarden dollars binnenkomen, maar het getuigt ook van de economische en politieke macht van het monopolie van Facebook.
Erger nog, het verklaart ook waarom Mark Zuckerberg op internationale bijeenkomsten als de president van een land wordt behandeld. Zuckerberg kan meer mensen bereiken dan welke president van welk land dan ook.
Hoewel dat laatste echt indrukwekkend is, ligt de sleutel tot dit alles in het eerste deel. Al met al vinden bedrijven machine learning enorm nuttig, omdat het nauwkeurig iets voorspelt dat echt nuttig is om winst te maken .
In die onderneming zijn het eerder genoemde onrecht en racisme slechts – en vaak nogal welkome – bijproducten. Wat dat laatste betreft, proberen AI en machine learning ermee weg te komen met het volgende retorische wapen : we kunnen geen algoritme schrijven dat racisme kan oplossen .
Klopt, maar dat is precies wat er zo vaak gebeurt. Zulke algoritmes zijn zo geschreven dat ze – per ongeluk of opzettelijk – racisme aanwakkeren. Met andere woorden: data is niet echt neutraal. Sterker nog, het is het tegenovergestelde van neutraal.
Een van de gevaarlijkste ideologieën die met AI gepaard gaan, is de technologie die in handen is van bedrijven en die centraal staat in de systemen .
Dit bepaalt wie wat ziet, wanneer en waarom. Facebook en Google beïnvloeden de gedachten van miljarden burgers en geven vorm aan de openbare democratische sfeer over de hele wereld.
De pure macht van beide monopolies – Facebook voor sociale netwerken en Google voor het structureren van informatie – blijkt uit het feit dat ruim 70% van al het internetverkeer via sites van Facebook en Google verloopt.
Om de kracht van Facebook nog verder te vergroten , is Facebooks belangrijkste systeem de nieuwsfeed . De algoritmes selecteren wat gebruikers zien en, misschien nog belangrijker, wat ze niet zien .
Het blijft van cruciaal belang om te begrijpen dat modellen voor machinaal leren voorrang geven aan ‘sommige’ (lees: bedrijfs-)belangen en waarden boven andere (lees: democratie).
Het gaat om winst boven mensen, het ontkennen van klimaatverandering boven de opwarming van de aarde, de belangen van het bedrijfsleven boven de belangen van de vakbonden, Donald Trump boven Kamala Harris , enzovoort.
Met andere woorden: als mensen te veel leugens, racisme, pornografie, misbruik en de ultieme misbruiker zien: Donald Trump zien , dan komt dat doordat Facebook een rangschikkingssysteem heeft ontwikkeld dat deze berichten verspreidt en versterkt.
Hetzelfde geldt voor Google. Wat Google uniek maakt, is de PageRank . Dit is een algoritme dat de relevantie van websites voor een zoekopdracht beoordeelt.
Het codeert een soort waardeoordeel. Erger nog, Google oefent controle uit door concepten als gelijkheid te definiëren.
Om hun dominantie verborgen te houden, verbergen Facebook en Google hun macht achter onbenullige technobabbel. Dit is bedoeld om de politieke aspecten van hun machine learning- systemen te verhullen.
Dit geeft zowel Facebook als Google de infrastructurele macht om onze publieke ruimte te structureren . Erger nog, deze macht is eenzijdig en noch onderhevig aan betekenisvolle economische concurrentie, noch aan effectief democratisch toezicht.
Net als Google is Facebook het probleem en niet de oplossing, want het bedrijf gebruikt ons als wapen tegen onszelf.
Wat moet er gedaan worden ?, zou men kunnen voorstellen dat bedrijven als Google en Facebook, en vele andere, zo niet vervangen moeten worden door een coöperatie , dan onderworpen moeten worden aan publiek toezicht en democratisch bestuur.
Het is niet verrassend dat goedbedoelende, liberale en aan Harvard opgeleide auteurs als Simons plotseling ontdekken dat er opvallend weinig concurrentie is en dat ondernemingen een monopoliepositie hebben .
Heeft Karl Marx ons dit niet verteld in zijn Das Kapital van zo’n 160 jaar geleden? Schok en afschuw! Google en Facebook zijn monopolies. Beide zijn slechts een voorbeeld van wat de voormalige redacteur van de Harvard Business Review, Magretta , ooit zei :
Bedrijfsleiders zijn de belangrijkste voorvechters van vrije markten en concurrentie in de maatschappij. Deze woorden roepen voor hen een wereldbeeld en waardesysteem op dat goede ideeën en hard werken beloont en innovatie en meritocratie stimuleert. De waarheid is dat de concurrentie waar elke manager naar verlangt veel dichter bij Microsoft ligt dan bij de melkveehouders. Ondanks alle gepraat over de voordelen van concurrentie, is het doel van bedrijfsstrategie om een onderneming weg te leiden van perfecte concurrentie en in de richting van een monopolie.
Veel goede liberalen ontkennen het voor de hand liggende en stellen dat het reguleren van Facebook en Google juist de juiste aanpak is.
Met andere woorden: reguleer het kapitalisme en de bedrijven en alles komt goed. Een verrassend goede suggestie is om ervoor te pleiten dat Google en Facebook – en veel andere IT-bedrijven – gereguleerd zouden moeten worden als een nutsbedrijf. – zoals de watervoorziening, de post, de riolering, openbare waterwegen, enzovoort.
Dit is het idee van wat de auteur noemt “Reguleren voor Democratie “. Met andere woorden, een democratische vorm van overheidsregulering ligt binnen het bereik van de haalbare mogelijkheden. Men zou zelfs een gedetailleerd plan kunnen formuleren over hoe dit bereikt kan worden.
Uiteindelijk kan democratie niet worden geautomatiseerd – niet door kunstmatige intelligentie, niet door machinaal leren en niet door enig ander automatiseringssysteem.
Daarnaast zou het overbrengen van internetbedrijven naar nutsbedrijven ook betekenen dat er een hervorming van de administratieve staat nodig is en dat we anders moeten denken over beleidsvorming.
Het idee om internetbedrijven onder te brengen bij nutsbedrijven , of ze op zijn minst als zodanig te behandelen binnen een door de staat vastgesteld regelgevingskader, is verstandig.
Ze hebben immers een monopoliepositie. Google en Facebook kunnen misinformatie (per ongeluk) en desinformatie (opzettelijk) verspreiden.
Onder het ideologische mom van het verbinden van miljoenen – zo niet miljarden – voedt de gigantische reclamegigant Facebook gebruikers met reclame en nieuws dat zijn algoritme relevant acht of niet.
Beide bedrijven – Facebook en Google – bepalen min of meer wat, wanneer en waarom we dingen zien of lezen – en ook wat we niet zien. Sterker nog, ze hebben ook de macht om dingen voor het grote publiek te verbergen. Alleen al daarvoor is regulering en democratisch toezicht nodig .
