We kunnen maar beter machines beheersen voordat ze ons beheersen.

Mijn vrouw en ik reden onlangs in Virginia, opnieuw verbaasd dat de GPS-technologie op onze telefoons ons door een struikgewas van snelwegen, rond verkeersongevallen en naar onze precieze bestemming kon leiden. De kunstmatige intelligentie (AI) achter de rustgevende stem die ons vertelt waar we moeten afslaan, heeft de passagiersstoelnavigatie, kaarten en zelfs verkeersupdates op de radio vervangen. Hoe hebben we in hemelsnaam overleefd voordat deze technologie in ons leven arriveerde? We hebben het natuurlijk overleefd, maar een deel van de tijd waren we letterlijk verloren.

Mijn mijmering werd onderbroken door een tolhuisje. Het was leeg, net als alle andere hokjes op dit specifieke tolstation. De meeste auto’s snelden door met EZ-passen, omdat het ene geautomatiseerd apparaat naadloos met het andere communiceerde. Helaas had onze huurauto er geen.

Dus ik bereidde me voor om met creditcard te betalen, maar de cabine had geen creditcardlezer.

Oké, dacht ik, terwijl ik mijn portemonnee tevoorschijn haalde, ik zal contant geld gebruiken om de $ 3,25 te betalen.

Toevallig nam dat hokje alleen munten en wie rijdt er rond met 13 kwartjes op zak?

Ik had diezelfde vraag graag aan iemand gesteld, maar ik was natuurlijk omringd door mute-machines. Dus reed ik gewoon door de elektronische oversteekplaats en bereidde me voor op de rekening die met de post zou komen zodra het geautomatiseerde systeem van dat plein onze kentekenplaat had gefotografeerd en getraceerd.

Op een door en door alledaagse manier had ik zojuist het eeuwenoude conflict tussen de beperkende en bevrijdende kanten van technologie meegemaakt. De pijlpunt die je eten voor het avondeten kan bezorgen, kan uiteindelijk in je eigen schedel terechtkomen. De auto die je naar een strandvakantie brengt, draagt ​​bij aan de opkomende getijden – door middel van koolstofemissies en verhoogde temperaturen – die op een dag dat zeer kustjuweel van een plaats kan wegspoelen. De laptopcomputer die u in de cyberwereld aansluit, dient ook als kanaal waardoor hackers uw identiteit kunnen stelen en uw bankrekening kunnen leegmaken.

In de vorige eeuw bereikte de technologie een echt keerpunt toen mensen, gebruikmakend van de kracht van het atoom, ook het vermogen verwierven om de hele planeet te vernietigen. Dankzij AI stuwt technologie ons nu naar een nieuw buigpunt.

Sciencefictionschrijvers en technologen maken zich al lang zorgen over een toekomst waarin robots, die bewustzijn bereiken, de planeet overnemen. De creatie van een machine met menselijke intelligentie die ons op een dag zou kunnen laten geloven dat het een van ons is, is vaak beschreven, met niet geringe mate van schroom, als de ‘singulariteit’. Respectabele wetenschappers zoals Stephen Hawking hebben betoogd dat een dergelijke singulariteit in feite het ‘einde van het menselijk ras’ zal markeren.

Dit zal niet een onmogelijk verre gebeurtenis zijn, zoals de zon die over een paar miljard jaar in een supernova opkomt. Volgens een peiling schatten AI-onderzoekers dat er een kans van minstens 50-50 is dat de singulariteit in 2050 zal plaatsvinden. Met andere woorden, als pessimisten zoals Hawking gelijk hebben, is de kans groot dat robots de mensheid zullen sturen voordat de klimaatcrisis dat doet.

Noch de kunstmatige intelligentie die GPS aandrijft, noch de soort die dat frustrerende tolstation bestuurde, heeft tot nu toe zoiets als intelligentie op menselijk niveau bereikt – zelfs niet in de buurt. Maar in veel opzichten nemen zulke domme robots de wereld al over. Automatisering verdrijft momenteel miljoenen werknemers , inclusief die voormalige tolpoortexploitanten. “Slimme” machines zoals onbemande luchtvaartuigen zijn een onmisbaar onderdeel geworden van het voeren van oorlog. AI-systemen worden steeds vaker ingezet om elke beweging op internet, via onze telefoons en wanneer we ons in de openbare ruimte begeven, te volgen. Algoritmen vervangen onderwijsassistenten in de klas en beïnvloeden de veroordeling in rechtszalen . Enkele van de eenzaamsten onder ons hebben dat al gedaanafhankelijk worden van robothuisdieren.

Naarmate de AI-capaciteiten blijven verbeteren, zal de onontkoombare politieke vraag worden: in hoeverre kunnen dergelijke technologieën worden afgeremd en gereguleerd? Ja, de nucleaire geest is uit de fles, net als andere technologieën – biologische en chemische – die in staat zijn massavernietiging te veroorzaken van een soort die voorheen ondenkbaar was op deze planeet. Met AI ligt die dag van singulariteit echter nog steeds in de toekomst, zelfs als die snel nadert. Het zou nog steeds mogelijk moeten zijn, althans in theorie, om zo’n uitkomst te controleren voordat er niets anders op zit dan het gekke spel van non-proliferatie achteraf te spelen.

Zolang mensen zich op wereldschaal slecht blijven gedragen – oorlog, genocide, planeetbedreigende koolstofemissies – is het moeilijk voor te stellen dat alles wat we creëren, hoe intelligent ook, anders zal handelen. En toch blijven we dromen dat een of andere deus in machina, een god in de machine, zou kunnen verschijnen als bij toverslag om ons van onszelf te redden.

AI temmen?

In het begin van de jaren veertig formuleerde sciencefictionschrijver Isaac Asimov zijn beroemde drie wetten van robotica: dat robots mensen geen schade mochten berokkenen, direct of indirect; dat ze onze bevelen moeten gehoorzamen (tenzij dit in strijd is met de eerste wet); en dat ze hun eigen bestaan ​​moeten vrijwaren (tenzij zelfbehoud in strijd is met de eerste twee wetten).

Een willekeurig aantal schrijvers heeft geprobeerd Asimov bij te werken. De laatste is rechtsgeleerde Frank Pasquale, die vier wetten heeft bedacht om de drie van Asimov te vervangen. Aangezien hij een advocaat is en geen futurist, houdt Pasquale zich meer bezig met het besturen van de robots van vandaag dan met hypothesen over de machines van morgen. Hij stelt dat robots en AI professionals moeten helpen, niet vervangen; dat ze geen mensen mogen namaken; dat ze nooit deel mogen uitmaken van enige vorm van wapenwedloop; en dat hun makers, controllers en eigenaren altijd transparant moeten zijn.

De ‘wetten’ van Pasquale druisen echter in tegen de trends op het gebied van kunstmatige intelligentie van dit moment. Het heersende AI-ethos weerspiegelt wat zou kunnen worden beschouwd als de belangrijkste richtlijn van Silicon Valley: snel handelen en dingen breken. Deze filosofie van disruptie vereist vooral dat technologie de arbeidskosten voortdurend verlaagt en zichzelf regelmatig achterhaalt.

In de wereldeconomie helpt AI inderdaad bepaalde professionals – zoals Mark Zuckerberg van Facebook en Jeff Bezos van Amazon, die toevallig tot de rijkste mensen ter wereld behoren – maar het vervangt ook miljoenen van ons. Op militair gebied drijft automatisering laarzen van de grond en ogen in de lucht in een komende robotachtige oorlogswereld. En of het nu Siri is, de bots die steeds meer gefrustreerde bellers door geautomatiseerde telefoonbomen leiden, of de AI die Facebook-berichten controleert, het doel was om mensen te vervalsen – “machines zoals ik”, zoals Ian McEwan ze noemde in zijn roman uit 2019 van die titel — terwijl de snaren die de creatie met de maker verbinden, worden verborgen.

Pasquale wil remmen op een trein die niet alleen het station heeft verlaten, maar niet meer onder controle staat van de machinist. Het is niet moeilijk voor te stellen waar zo’n op hol geslagen fenomeen zou kunnen eindigen en techno-pessimisten hebben een pervers genoegen genomen bij het beschrijven van de resulterende ramp. In zijn boek Superintelligence schrijft Nick Bostrom bijvoorbeeld over een zandstorm van zelfreplicerende nanorobots die elk levend wezen op de planeet verstikt – het zogenaamde grey goo-probleem – en een AI die de macht grijpt door ‘politieke processen te kapen’.

Aangezien ze alleen geïnteresseerd zouden zijn in zelfbehoud en replicatie, niet in het beschermen van de mensheid of het opvolgen van haar bevelen, zouden dergelijke bewuste machines Asimovs regelboek duidelijk verscheuren. Futuristen zijn in de bres gesprongen. Ray Kurzweil bijvoorbeeld, die in zijn boek The Singularity Is Near uit 2005 voorspelde dat een robot rond 2045 het bewustzijn zou bereiken, heeft een ‘verbod voorgesteld op zelfreplicerende fysieke entiteiten die hun eigen codes voor zelfreplicatie bevatten’. Elon Musk, een andere miljardair-industrieel die geen vijand is van innovatie, heeft de AI-menselijkheid de “grootste existentiële bedreiging” genoemd en is voorstander van een verbod op toekomstige moordende robots.

Om de verschillende worstcasescenario’s te voorkomen, heeft de Europese Unie voorgesteld om AI te controleren op risicograad. Sommige producten die in de EU-categorie “hoog risico” vallen, zouden een soort Good Housekeeping-keurmerk moeten krijgen (de Conformité Européenne ). AI-systemen “die als een duidelijke bedreiging worden beschouwd voor de veiligheid, het levensonderhoud en de rechten van mensen”, zouden daarentegen volledig worden verboden . Dergelijke duidelijke en actuele gevaren omvatten bijvoorbeeld biometrische identificatie die persoonlijke gegevens vastlegt door middel van gezichtsherkenning, evenals versies van het Chinese sociale kredietsysteem waarbij AI helpt individuen te volgen en hun algehele betrouwbaarheid te evalueren.

Techno-optimisten hebben voorspelbaar bekritiseerd wat zij beschouwen als Europees overbereik. Dergelijke controles op AI zullen volgens hen een domper op O&O zetten en, als de Verenigde Staten dit voorbeeld volgen, China in staat stellen een onoverkomelijke technologische voorsprong in het veld te behalen. “Als de lidstaten van de EU – en hun bondgenoten aan de andere kant van de Atlantische Oceaan – serieus willen concurreren met China en hun machtsstatus willen behouden (evenals de kwaliteit van leven die ze hun burgers bieden)”, schrijft ondernemer Sid Mohasseb in Newsweek , “ze moeten pleiten voor een herformulering van deze regelgeving, waarbij groei en concurrentie minstens zo belangrijk worden gezien als regelgeving en veiligheid.”

De zorgen van Mohasseb zijn echter misleidend. De regelgevers waar hij zo bang voor is, spelen nu in feite een inhaalslag. In de economie en op het slagveld, om slechts twee gebieden van menselijke activiteit te nemen, is AI al onmisbaar geworden.

De automatisering van globalisering

De aanhoudende Covid-19-pandemie heeft de kwetsbaarheid van wereldwijde toeleveringsketens blootgelegd. De wereldeconomie kwam in 2020 bijna tot stilstand om één belangrijke reden: de gezondheid van menselijke werknemers. De verspreiding van de infectie, het besmettingsgevaar en de inspanningen om de pandemie in te dammen, hebben allemaal werknemers van de beroepsbevolking verwijderd, soms tijdelijk, soms permanent. Fabrieken werden gesloten, de gaten in de transportnetwerken werden groter en winkels verloren zaken aan online verkopers.

De wens om de arbeidskosten te verlagen, een belangrijke factor in het prijskaartje van een product, heeft bedrijven ertoe aangezet om goedkopere werknemers in het buitenland te zoeken. Voor dergelijke kostenbesparingen is het elimineren van werknemers een nog aantrekkelijker vooruitzicht. Lang voordat de pandemie toesloeg, begonnen bedrijven zich tot automatisering te wenden. Tegen 2030 zullen tot 45 miljoen Amerikaanse arbeiders door robots worden verdreven. De Wereldbank schat dat ze uiteindelijk maar liefst 85% van de banen in Ethiopië, 77% in China en 72% in Thailand zullen vervangen.”

De pandemie heeft niet alleen deze trend versneld, maar ook de economische ongelijkheid vergroot, omdat, althans voorlopig, robots de minst geschoolde werknemers vervangen. In een onderzoek van het World Economic Forum gaf 43% van de bedrijven aan dat ze hun personeelsbestand zouden verminderen door meer gebruik te maken van technologie. “Sinds de pandemie toesloeg”, meldt NBC News,

“Voedselfabrikanten voerden hun automatisering op, waardoor faciliteiten hun productie konden handhaven terwijl ze sociale afstand hielden. Fabrieken digitaliseerden de bedieningselementen op hun machines, zodat ze op afstand konden worden bediend door werknemers die thuis of op een andere locatie werkten. Er zijn nieuwe sensoren geïnstalleerd die storingen kunnen signaleren of voorspellen, waardoor teams van inspecteurs die volgens een schema werken, kunnen worden teruggebracht tot een onderhoudsploeg die nodig is.”

In een ideale wereld zouden robots en AI in toenemende mate alle vuile, gevaarlijke en vernederende banen wereldwijd op zich nemen, waardoor mensen de vrijheid krijgen om interessanter werk te doen. In de echte wereld maakt automatisering het werk echter vaak vuiler en gevaarlijker , bijvoorbeeld door het werk van de resterende menselijke beroepsbevolking te versnellen. Ondertussen beginnen robots inbreuk te maken op wat gewoonlijk wordt beschouwd als de interessantere soorten werk van bijvoorbeeld architecten en productontwerpers .

In sommige gevallen heeft AI zelfs managers vervangen . Een contractchauffeur voor Amazon, Stephen Normandin, ontdekte dat het AI-systeem dat zijn efficiëntie als bezorger bewaakte, ook een geautomatiseerde e-mail gebruikte om hem te ontslaan toen het besloot dat hij niet in staat was om te snuiven. Jeff Bezos mag dan terugtreden als CEO van Amazon, robots klimmen snel op de bedrijfsladder en kunnen minstens net zo meedogenloos blijken te zijn als hij is geweest, zo niet meer.

Mobiliseren tegen zo’n robotvervangend leger zou bijzonder moeilijk kunnen zijn, aangezien bedrijfsleiders niet de enigen zijn die de welkomstmat uithangen. Aangezien voor volledig geautomatiseerde productie in “donkere fabrieken” geen verlichting, verwarming of personeel nodig is dat met de auto naar de locatie pendelt, kan dat soort productie de ecologische voetafdruk van een land verkleinen – een potentieel verleidelijke factor voor voorstanders van “groene groei” en politici die wanhopig hun klimaatdoelstellingen in Parijs willen halen.

Het is mogelijk dat bewuste robots geen ingenieuze listen hoeven te bedenken om de wereld over te nemen. Mensen kunnen maar al te graag bereid zijn om semi-intelligente machines de sleutels van het koninkrijk te geven.

De nieuwe oorlogsmist

De oorlog van 2020 tussen Armenië en Azerbeidzjan bleek anders dan alle eerdere militaire conflicten. De twee landen vochten al sinds de jaren tachtig om een ​​omstreden bergenclave, Nagorno-Karabach. Na de ineenstorting van de Sovjet-Unie bleek Armenië de duidelijke overwinnaar in het conflict dat volgde in het begin van de jaren negentig, en bezette het niet alleen het betwiste gebied, maar ook delen van Azerbeidzjan.

In september 2020, toen de spanningen tussen de twee landen opliepen, was Armenië bereid om die bezette gebieden te verdedigen met een goed uitgerust leger van tanks en artillerie. Dankzij de export van fossiele brandstoffen had Azerbeidzjan echter aanzienlijk meer uitgegeven dan Armenië aan de modernste versie van militaire paraatheid. Toch prezen Armeense leiders hun leger vaak aan als het beste in de regio. Volgens de Global Militarization Index van 2020 stond dat land inderdaad op de tweede plaats na Israël in termen van militariseringsniveau.

Toch was Azerbeidzjan de beslissende winnaar in het conflict van 2020 en heroverde Nagorno-Karabkah. De reden: automatisering.

“Azerbeidzjan gebruikte zijn drone-vloot – gekocht van Israël en Turkije – om de wapensystemen van Armenië in Nagorno-Karabach te besluipen en te vernietigen, zijn verdediging te vernietigen en een snelle opmars mogelijk te maken”, meldde Robyn Dixon van de Washington Post . “Armenië ontdekte dat luchtverdedigingssystemen in Nagorno-Karabach, waarvan vele oudere Sovjetsystemen, onmogelijk te verdedigen waren tegen drone-aanvallen, en de verliezen stapelden zich snel op.”

Armeense soldaten, berucht om hun felheid, werden regelmatig opgeschrikt door de semi-autonome wapens boven hen. “De soldaten op de grond wisten dat ze elk moment konden worden geraakt door een drone die boven hun hoofd cirkelde”, merkte Mark Sullivan op in het zakenblad Fast Company . “De drones zijn zo stil dat ze het gezoem van de propellers niet zouden horen totdat het te laat was. En zelfs als de Armeniërs erin slaagden een van de drones neer te schieten, wat hadden ze dan echt bereikt? Ze hadden alleen een stuk machine vernietigd dat zou worden vervangen.”

De Verenigde Staten pionierden met het gebruik van drones tegen verschillende niet-statelijke tegenstanders in hun oorlog tegen het terrorisme in Afghanistan, Irak, Pakistan, Somalië en elders in het Grotere Midden-Oosten en Afrika. Maar in zijn campagne van 2020 gebruikte Azerbeidzjan de technologie om een ​​modern leger te verslaan. Nu zal elk leger zich niet alleen gedwongen voelen om steeds krachtigere AI te integreren in zijn offensieve capaciteiten, maar ook om zich te verdedigen tegen de nieuwe technologie.

Om de concurrentie voor te blijven, stoppen de Verenigde Staten voorspelbaar geld in de nieuwste technologieën. Het nieuwe budget van het Pentagon omvat het “grootste ooit”-verzoek voor R&D, inclusief een aanbetaling van bijna een miljard dollar voor AI. Zoals TomDispatch- regulier Michael Klare heeft geschreven , heeft het Pentagon zelfs een signaal overgenomen van de zakenwereld door zijn oorlogsmanagers – generaals – te vervangen door een enorm, onderling verbonden netwerk van geautomatiseerde systemen dat bekend staat als de Joint All-Domain Command-and-Control (JADC2).

Het resultaat van een dergelijke overdracht van grotere verantwoordelijkheid aan machines zal de creatie zijn van wat wiskundige Cathy O’Neill ‘wapens van wiskundige vernietiging’ noemt . In de wereldeconomie vervangt AI al mensen in de productieketen. In de oorlogswereld zou AI uiteindelijk mensen helemaal kunnen vernietigen, of het nu gaat om menselijk ontwerp of een computerfout.

Immers, tijdens de Koude Oorlog zorgden alleen last-minute interventies door individuen aan beide kanten ervoor dat nucleaire “raketaanvallen” die werden gedetecteerd door Sovjet- en Amerikaanse computers – die vogels, ongewoon weer of computerstoringen bleken te zijn – niet neersloegen een totale nucleaire oorlog. Haal de mens uit de commandostructuur en machines kunnen zo’n genocide helemaal zelf uitvoeren.

En de fout, beste lezer, zou niet in onze robots liggen, maar in onszelf.

Robots van het laatste redmiddel

In mijn nieuwe roman Songlands staat de mensheid in 2052 voor een verschrikkelijke reeks keuzes. Na tientallen jaren te hebben gefaald om de CO2-uitstoot onder controle te houden, staat de wereld op het punt van geen terugkeer meer, te laat voor conventionele beleidsoplossingen. Het enige dat overblijft is een wetenschappelijke Weesgegroetjes, een experiment in geo-engineering dat zou kunnen mislukken of, erger nog, vreselijke onbedoelde gevolgen zou hebben. De AI die verantwoordelijk is voor het succes van het experiment kan al dan niet betrouwbaar zijn. Mijn dystopie, zoals zoveel anderen, gaat echt over een vernauwing van opties en het wegkwijnen van hoop, wat ons huidige traject is.

En toch hebben we nog steeds keuzes. We zouden radicaal kunnen overschakelen naar schone energie en hulpbronnen voor de hele wereld, niet alleen de rijkere delen, om samen de sprong te maken. We zouden verstandige regels kunnen stellen aan kunstmatige intelligentie. We zouden de details van dergelijke programma’s kunnen bespreken in democratische samenlevingen en op participerende multilaterale locaties.

Of we zouden kunnen wachten op een post-Trumpiaanse redder om ons te redden, terwijl we onze handen in de lucht steken vanwege onze onoverbrugbare politieke verschillen. Techno-optimisten hopen dat automatisering ons zal bevrijden en de planeet zal redden. Laissez-faire-enthousiastelingen blijven geloven dat de onzichtbare hand van de markt op mysterieuze wijze kapitaal zal sturen naar planeetbesparende innovaties in plaats van SUV’s en plastic snuisterijen.

Dit zijn illusies. Terwijl ik in Songlands schrijf , hebben we altijd gehoopt dat iemand of iets ons zou redden: “God, een dictator, technologie. Voor beter of slechter, het enige antwoord op onze hulpkreten is een echo.”

Uiteindelijk zullen robots ons niet redden. Dat is een stukje werk dat niet kan worden uitbesteed of geautomatiseerd. Het is een klus die alleen wij zelf kunnen doen.