Indignatie redactie 
De samenleving moet haar morele plicht onder ogen zien om de gevolgen van AI te begrijpen en duidelijke richtlijnen voor het gebruik ervan te ontwikkelen.
REVOLUTIES TEGEN DE WETENSCHAP zijn vaak zeer irrationeel, zoals we hebben gezien tijdens de Covid-19-pandemie, met politieke polarisatie rond levensreddende vaccins en cruciale volksgezondheidsmaatregelen. Maar het publieke wantrouwen jegens de wetenschap is maar al te vaak mogelijk gemaakt door de manipulatie ervan door bedrijfsbelangen , waaronder de grote tabaks- en oliebedrijven, en door de gevaren die verbonden zijn aan het gebruik ervan in oorlogen.
De slotmomenten van Christopher Nolans voor een Academy Award genomineerde film “Oppenheimer” – gebaseerd op de biografie “American Prometheus” – tonen een fictieve scène waarin de natuurkundige met Albert Einstein spreekt bij een vijver van het Institute for Advanced Study in Princeton, New York. Jersey.
Oppenheimer herinnert Einstein aan de tijd enkele jaren eerder, tijdens de Tweede Wereldoorlog, toen hij hem vroeg of hij dacht dat er een kans bestond dat kernsplijting een kettingreactie zou veroorzaken die de wereld zou vernietigen. Einstein had geweigerd een mening te geven en Oppenheimer zette zijn werk aan de ontwikkeling van de bom voort.
Weemoedig wegkijkend van Einstein, zegt hij dat dat misschien wel zo was: dat de bom een oncontroleerbare kettingreactie veroorzaakte die uiteindelijk de wereld zou vernietigen. Deze laatste woorden logenstraffen zijn hoop dat zo’n verschrikkelijk wapen alle oorlogen zou kunnen stoppen, en geven toe dat hij er niet in is geslaagd volledig te anticiperen op de politieke realiteit van kernenergie.
Oppenheimers ambivalentie is in bredere zin het verhaal van de hedendaagse wetenschap. De kwantumfysica zou een obscuur onderzoeksgebied zijn gebleven als niet werd erkend dat het krachtige toepassingen kende, op gebieden variërend van de ontwikkeling van medische technologieën tot de ontwikkeling van radar. Toen in 1939 kernsplijting werd ontdekt, beloofde dit niet alleen nieuwe vormen van energie, maar ook nieuwe manieren om deze energie te benutten voor massavernietigingswapens . De VS erkenden dat de volgende oorlog zou worden gewonnen door het land dat erin slaagde wetenschap en technologie het meest effectief te gebruiken.
De angst voor nucleaire vernietiging wierp echter een donkere schaduw over de uitbundigheid van het naoorlogse optimisme en de welvaart. Er had een opstand tegen de wetenschap plaatsgevonden in de jaren na de Eerste Wereldoorlog, en serieuze kritiek keerde met wraak terug in de jaren zestig, toen de naoorlogse generatie volwassen werd en diepgeworteld reageerde op wat Dwight Eisenhower het ‘ militair-industriële complex ’ noemde.
Beide opstanden werden gedreven door onbehagen over de wetenschap en het alomtegenwoordige gevoel van verlies van morele waarden. Tegenwoordig worden we geconfronteerd met escalerende crises rond de klimaatverandering, en raken we bezorgd dat vooruitgang op gebieden als genbewerking en kunstmatige intelligentie betekent dat de mensheid opnieuw zeer alert is. De ambivalentie van Oppenheimer zit stevig verankerd in ons hedendaagse onderbewustzijn.
Nu het mogelijk is dat kernwapens tot ontploffing worden gebracht door autonome dodelijke systemen die worden aangedreven door AI, lijkt onze bezorgdheid over de gevaren van wetenschap en technologie tastbaarder en alomtegenwoordiger, zoals computerwetenschapper Stuart Russell heeft besproken. Steeds meer AI-onderzoekers waarschuwen voor naderend onheil , nu pioniers op dit gebied, zoals Geoffrey Hinton en Yoshua Bengio, hun eigen groeiende bezorgdheid uiten over het risico van uitsterven als gevolg van de vooruitgang op het gebied van AI.
Andere verstandige figuren op het gebied van AI, zoals computerwetenschapper Yann LeCun en ondernemer Reid Hoffman , maken zich veel minder zorgen. Demis Hassabis leidde Google’s DeepMind om te laten zien hoe transformationeel AI zal zijn op het gebied van biologisch onderzoek, bijvoorbeeld het bepalen van 3D-eiwitstructuren .
En toch hebben leiders die sommige versies van techno-optimisme omarmen een zorgwekkende neiging om politieke opvattingen te uiten die variëren van libertair wantrouwen jegens de overheid tot een nieuwe doctrine die als ‘ Effectief Accelerationisme ’ wordt bestempeld. (Dit laatste roept op tot een drastische intensivering van de kapitalistische groei en technologische veranderingen en is een tegenbeweging tegen ‘effectief altruïsme’, dat zich in plaats daarvan richt op het vinden van de beste manieren om anderen te helpen.)
Accelerationisme is onlangs gepopulariseerd door durfkapitalist Marc Andreessen , die zonder voorbehoud optimistisch over (en financier van) alles wat technologisch is, maar het is ook in verband gebracht met extreemrechtse politieke opvattingen, zoals in de geschriften van de filosoof Nick Land .
De eerlijkheid gebiedt te zeggen dat de toekomst maar al te vaak in de greep wordt gehouden van extremisten, die óf doordrenkt zijn van angst voor – óf overdreven opgewonden zijn door – ideeën over een apocalyps en radicale verandering. De toekomst herinnert ons echter ook aan onze verantwoordelijkheden ten opzichte van nieuwe generaties die de wereld die we hebben gemaakt erven, en aan de noodzaak om het soort lange termijnvisie in te nemen waar Oppenheimer, hoe gebrekkig zijn voorspellende vermogens ook waren, op aandrong.
Het is beslist mogelijk om ernstige zorgen te uiten over de toekomst op zowel de korte als de langere termijn, en te blijven hameren op de morele verplichting van wetenschappers, ingenieurs en anderen om doelbewust te werken aan het vormgeven van een betere toekomst.
We hoeven niet in een doemscenario terecht te komen als we de potentieel verwoestende gevolgen van onze technologische bekwaamheid in ogenschouw nemen, ook al gebruiken we onze nieuwe krachten om betere gezondheidszorg te bieden, de wetenschap vooruit te helpen, economische waarde te creëren en nieuwe vormen van energie, materialen, en kennis. En ja, deze kennis moet ook worden gebruikt om de negatieve gevolgen van technologie beter te begrijpen en vervolgens te verbeteren.
We moeten echter ook nieuwe collectieve middelen en principes ontwikkelen om betere manieren te ontdekken om de controle over onze toekomst over te nemen en de prioriteiten van menselijke waarden te bevestigen – hoe omstreden die ook mogen zijn. Hiervoor zijn neutrale instanties nodig die wetenschappers en sociale wetenschappers, filosofen, bedrijfsleiders, toezichthouders van de overheid, gemeenschapsleiders en andere actoren uit het maatschappelijk middenveld kunnen samenbrengen om gemeenschappelijke doelen en duidelijke richtlijnen voor gebruik te formuleren.
Zoals Oppenheimer betoogde , moeten deze beraadslagingen werkelijk internationaal zijn en niet worden gedicteerd door geopolitieke verdeeldheid. Vorig jaar riepen ruim duizend technologie-experts op tot een pauze in de race om AI te ontwikkelen. We worden met gevaren geconfronteerd en we zullen fouten maken, maar we weten dat op het gebied van wetenschap en technologie geen enkele oproep tot een pauze – laat staan een omkering – een kans maakt.
De god die leed omdat hij mensen vuur en de vernietigende kracht ervan gaf, wordt niet langer verbannen naar de Griekse mythe. We zijn nu allemaal Prometheus.
