Het gevaar van bovenmenselijke AI is niet wat je denkt

De retoriek over ‘bovenmenselijke’ AI wist impliciet wat het belangrijkste is aan het mens-zijn.

De huidige generatieve AI-systemen zoals ChatGPT en Gemini worden routinematig beschreven als een voorbode van de aanstaande komst van ‘bovenmenselijke’ kunstmatige intelligentie. De krantenkoppen en citaten die onze triomf of ondergang in een tijdperk van bovenmenselijke AI uitbazuinen, zijn verre van een onschuldig stukje marketingspin, maar het refrein van een snelgroeiende, gevaarlijke en krachtige ideologie.

Of het nu wordt gebruikt om ons AI met onvoorwaardelijk enthousiasme te laten omarmen of om een ​​beeld te schetsen van AI als een angstaanjagend spook waarvoor we moeten beven, de onderliggende ideologie van ‘bovenmenselijke’ AI bevordert de groeiende devaluatie van menselijke keuzevrijheid en autonomie en laat het onderscheid tussen onze bewuste geest en de mechanische hulpmiddelen die we hebben gebouwd om ze te weerspiegelen.

De krachtige AI-systemen van vandaag ontberen zelfs de meest fundamentele kenmerken van de menselijke geest; ze delen niet met mensen wat wij bewustzijn of gevoel noemen, het daarmee samenhangende vermogen om dingen als pijn, vreugde, angst en liefde te voelen. Ze hebben ook niet het geringste besef van hun plaats en rol in deze wereld, laat staan ​​het vermogen om die te ervaren. Ze kunnen de vragen beantwoorden die we stellen, mooie foto’s voor ons maken, deepfake-video’s genereren en meer. Maar een AI-tool is donker van binnen.

Daarom vroeg ik op een machine learning-conferentie in september 2023 aan Turing Award-winnaar Yoshua Bengio waarom we blijven horen over ‘bovenmenselijke’ AI terwijl de beschikbare producten zo ver verwijderd zijn van wat een mens is, laat staan ​​supermenselijk . Mijn keynote voorafgaand aan de zijne had dit soort retoriek openlijk ter discussie gesteld, die een grote rol speelde in de daaropvolgende presentatie van Bengio – net zoals dat het geval is op zijn website en in zijn waarschuwingen aan wetgevers en ander publiek dat mensen het risico lopen “de controle te verliezen aan bovenmenselijke AI’s” in juist de komende jaren .

Bengio was ooit een van de meer nuchtere en gegronde stemmen in het AI-onderzoekslandschap, dus zijn plotselinge adoptie van deze retoriek bracht mij in verwarring. Ik ben het zeker niet met hem oneens over de gevaren van het inbedden van krachtige maar onvoorspelbare en onbetrouwbare AI-systemen in kritieke infrastructuur- en defensiesystemen, of over de dringende noodzaak om deze systemen effectiever te besturen. Maar AI ‘bovenmenselijk’ noemen is geen noodzakelijk onderdeel van het maken van deze argumenten.

Dus, vroeg ik hem, is deze retoriek uiteindelijk niet nutteloos en misleidend, aangezien de AI-systemen die we zo dringend moeten controleren, de meest fundamentele capaciteiten en kenmerken van een menselijke geest missen?

Hoe, zo vroeg ik me af, kan een AI-systeem zonder het menselijk vermogen tot bewuste zelfreflectie, empathie of morele intelligentie bovenmenselijk worden louter omdat het een snellere probleemoplosser is? Zijn wij niet meer dan dat? En leidt het toekennen van het label ‘bovenmenselijk’ aan machines die de meest vitale dimensies van de mensheid missen er uiteindelijk niet toe dat juist die dingen over het mens-zijn waar we om geven voor ons zicht verdwijnen?

Ik probeerde Bengio ertoe te brengen te erkennen dat er een enorm verschil is tussen bovenmenselijke rekensnelheid of nauwkeurigheid – en bovenmenselijk zijn , dat wil zeggen: meer dan menselijk.

De meest gewone mens doet veel meer dan het krachtigste AI-systeem, dat alleen optimaal efficiënte paden door de hoogdimensionale vectorruimte kan berekenen en de bijbehorende symbolen, woordfiches of pixels kan retourneren. Met je kind spelen of een kunstwerk maken is intelligent menselijk gedrag, maar als je beide beschouwt als een proces van het vinden van de meest efficiënte oplossing voor een probleem of het genereren van voorspelbare tokens, doe je het verkeerd .

Bengio weigerde dit uitgangspunt toe te staan. Voordat ik de vraag zelfs maar kon afmaken, eiste hij: “Denk je niet dat je hersenen een machine zijn?” Toen vroeg hij: “Waarom zou een machine die op silicium werkt niet in staat zijn om de berekeningen uit te voeren die onze hersenen doen?”

Het idee dat computers op dezelfde onderliggende principes werken als onze hersenen, is niet nieuw. Computationele theorieën over de geest circuleren al sinds de oorsprong van de informatica in de 20e eeuw.

Er zijn tal van cognitieve wetenschappers, neurowetenschappers en filosofen die computationele theorieën over de geest beschouwen als een verkeerd of onvolledig verslag van hoe het fysieke brein werkt (waaronder ikzelf), maar het is zeker geen bizarre of pseudowetenschappelijke visie. Het is op zijn minst denkbaar dat menselijke hersenen, op het meest basale niveau, het best kunnen worden omschreven als een soort biologische berekeningen.

Wat mij dus verbaasde en verontrustte aan de reactie van Bengio was niet zijn veronderstelling dat biologische hersenen een soort machine of computer zijn. Wat mij verraste was zijn weigering om, althans in eerste instantie, toe te geven dat menselijke intelligentie – of deze nu in de kern computationeel is of niet – een rijke reeks mogelijkheden omvat die veel verder gaan dan wat zelfs de allernieuwste AI-tools doen. Wij zijn meer dan efficiënte wiskundige optimalisaties en waarschijnlijke volgende tokengeneratoren.

Ik had gedacht dat het een vrij voor de hand liggende – zelfs triviale – observatie was dat de menselijke intelligentie niet kan worden gereduceerd tot deze taken, die kunnen worden uitgevoerd met hulpmiddelen waarvan zelfs Bengio toegeeft dat ze net zo dwaas en ongevoelig zijn voor de wereld van het leven en voelen als je broodrooster. . Maar hij leek erop te staan ​​dat de menselijke intelligentie tot deze operaties kon worden gereduceerd – dat wij zelf niet meer zijn dan machines voor taakoptimalisatie.

Ik besefte toen geschokt dat ons meningsverschil helemaal niet over de mogelijkheden van machine learning-modellen ging. Het ging over de capaciteiten van mensen, en welke beschrijvingen van die capaciteiten we kunnen en moeten licentiëren.

Wat is bovenmenselijke AI?

Op zijn website definieert Bengio ‘bovenmenselijke AI’ als een AI-systeem dat ‘bij een breed scala aan taken beter presteert dan mensen’. Dat is behoorlijk vaag. Wat valt onder de definitie van een taak? Is iets wat een mens doet een taak?

Decennia lang werd de heilige graal van kunstmatige algemene intelligentie (AGI) van de AI-onderzoeksgemeenschap gedefinieerd door gelijkwaardigheid met de menselijke geest – en niet alleen door de taken die zij uitvoeren. IBM weerspiegelt dit traditionele idee nog steeds in zijn definitie van het AGI-gerichte onderzoeksprogramma Strong AI:

[AGI] zou een intelligentie vereisen die gelijk is aan die van mensen; het zou een zelfbewust bewustzijn hebben dat het vermogen heeft om problemen op te lossen, te leren en plannen te maken voor de toekomst. … Sterke AI heeft tot doel intelligente machines te creëren die niet te onderscheiden zijn van de menselijke geest.

Maar OpenAI en onderzoekers als Geoffrey Hinton en Yoshua Bengio vertellen ons nu een ander verhaal. Een zelfbewuste machine die “niet te onderscheiden is van de menselijke geest” is niet langer de bepalende ambitie voor AGI. Een machine die ons evenaart of beter presteert op een breed scala aan economisch waardevolle taken is het nieuwste doelwit. OpenAI, dat het voortouw nam bij het verplaatsen van de doelpalen van AGI, definieert AGI in hun handvest als “zeer autonome systemen die beter presteren dan mensen bij het economisch meest waardevolle werk.”

OpenAI’s AGI bait-and-switch verwijdert alles wat niet als economisch waardevol werk geldt uit de definitie van intelligentie. Dat is een enorme uitwissing van ons menselijk vermogen en een vermindering van onszelf waar we weerstand aan moeten bieden. Ben jij niet meer dan het werk dat je vandaag hebt volbracht? Bent u minder menselijk of minder intelligent als u uw wakkere uren besteedt aan het doen van dingen waarvoor geen goed gedefinieerde ‘oplossingen’ bestaan, die geen taken zijn die van een lijstje kunnen worden afgevinkt, en die geen marktprijs hebben?

Als je het concept van menselijke intelligentie eenmaal hebt teruggebracht tot waar de markten voor zullen betalen , dan is het enige dat nodig is om een ​​intelligente machine te bouwen – zelfs een bovenmenselijke – ineens het maken van iets dat economisch waardevolle resultaten genereert met een snelheid en gemiddelde kwaliteit die groter is dan uw eigen economische output. Al het andere is niet relevant.

Terwijl de ideologie achter dit aas-en-schakelaar-systeem in de bredere cultuur lekt, tast het langzaam ons eigen zelfbegrip aan. Als je er in een grote lezing of online forum over AI op probeert te wijzen dat ChatGPT de dingen die overeenkomen met de woorden en zinnen die het produceert niet ervaart en er niet over kan nadenken – dat het slechts een wiskundige generator is van verwachte taalpatronen – De kans is groot dat iemand heel serieus zal reageren: “Maar wij ook.”

Volgens deze opvatting zijn karakteriseringen van mensen als verstandig, speels, inventief, inzichtelijk, meditatief, moedig, meelevend of rechtvaardig handelen niet meer dan poëtische vrijheid. Volgens deze opvatting brengen dergelijke humanistische beschrijvingen van onze meest gewaardeerde prestaties op zichzelf geen toegevoegde waarheid over. Ze wijzen niet op een rijkere realiteit van wat menselijke intelligentie is. Ze corresponderen met niets werkelijks behalve de ondoorzichtige, mechanische berekening van woordfrequenties en associaties. Het zijn slechts bloemrijke, onnauwkeurige woorden voor diezelfde onvruchtbare taak.

Ik ben er nog steeds niet zeker van of Bengio dit zelf echt gelooft. Later in de vraag-en-antwoordsessie na zijn toespraak vroeg hij om op mijn vraag terug te komen, en het leek erop dat hij een meer verzoenende toon wilde aanslaan en een gemeenschappelijke basis wilde zoeken. Maar toen hij weigerde toe te geven dat mensen meer zijn dan taakmachines die computerscripts uitvoeren en de statistisch verwachte tokens uitgeven, geloofde ik hem op zijn woord.

Als ons verslaan in dat spel alles is wat nodig is om bovenmenselijk te zijn, zou je kunnen denken dat er al silicium-supermensen onder ons zijn sinds de Tweede Wereldoorlog, toen de Britse Colossus de eerste computer werd die sneller een code kraakte dan mensen.

Toch versloeg Colossus ons slechts op één taak; volgens Bengio zal ‘bovenmenselijke’ AI ons verslaan bij een ‘breed scala aan taken’. Maar dat veronderstelt dat mens-zijn niets meer is dan een bijzonder veelzijdige machine voor het voltooien van taken. Als je eenmaal die verwoestende vermindering van de reikwijdte van onze menselijkheid accepteert, lijkt de productie van een even veelzijdige taakmachine met ‘bovenmenselijke’ taakprestaties niet zo vergezocht; het idee is bijna alledaags.

Dus wat is het kwaad om op deze manier te spreken?

Bovenmenselijk zijn

Het woord ‘bovenmenselijk’ betekent ‘menselijk, maar meer nog’. Bovenmenselijk zijn betekent dezelfde krachten hebben als mensen, plus andere krachten die we missen – of menselijke krachten hebben in een mate die we niet hebben. Het is geen woord dat we gebruiken voor iets dat radicaal anders is dan wij, iets dat fundamentele menselijke kwaliteiten en krachten mist, maar op sommige maatstaven beter presteert dan wij. We praten niet over ‘bovenmenselijke vliegtuigen’ of ‘bovenmenselijke cheeta’s’, ook al reizen vliegtuigen en cheeta’s allebei sneller dan enig mens ooit heeft gelopen.

We gebruiken en begrijpen de term bovenmenselijk in de betekenis van iets dat heel erg op ons lijkt, maar dan beter . De fictieve Superman is misschien wel de bekendste Engelstalige weergave van het bovenmenselijke idee. Superman is niet op aarde geboren, maar hij belichaamt en overtreft onze hoogste menselijke idealen van fysieke, intellectuele en morele kracht. Hij is niet bovenmenselijk alleen omdat hij vliegt; een raket doet dat.

is niet bovenmenselijk omdat hij zware dingen kan verplaatsen; hiervoor is een vorkheftruck voldoende. Hij is ook niet bovenmenselijk omdat hij uitblinkt in een ‘breed scala’ van dergelijke taken. In plaats daarvan is hij een ambitieuze vergroting van wat wij als het meest waarlijk menselijke beschouwen.

Er ontbreken geen fundamentele dimensies van de menselijke persoonlijkheid in Superman. Hij is een denkbeeldig antwoord op de vraag: “Wat als wij, alleen maar meer?” Hij verlangt, hij lijdt, hij heeft lief, hij treurt, hij hoopt, hij geeft om en hij twijfelt; hij ervaart dit allemaal nog intenser en dieper dan wij. Hij is zo ver als je maar kunt zijn van een hersenloze producent van efficiëntieverbeteringen. Zijn belichaming als Superman is een directe uitdrukking van elk van de aspecten van de mensheid die we het meest waarderen, de dingen over onze soort die we vaak als universeel gedeeld beschouwen.

Door iets dat totaal ongevoelig en onnadenkend is als supermenselijk te beschrijven , een object zonder verlangen of hoop, maar meedogenloos productief en aanpasbaar aan de hem toegewezen economisch waardevolle taken, wissen of devalueren we impliciet het concept van een ‘mens’ en alles wat een mens kan. doen en proberen te worden. Pogingen om de meest humane delen van ons bestaan ​​uit te wissen en te devalueren zijn uiteraard niets nieuws; AI is slechts een nieuw excuus om het te doen.

Gedurende het hele industriële tijdperk hebben degenen die hebben geïnvesteerd in de maximaal efficiënte extractie van productieve outputs uit menselijke lichamen geprobeerd ons onszelf – en nog belangrijker, elkaar – te laten zien als gebrekkige, inefficiënte, vervangbare machines die voorbestemd zijn om te worden weggegooid. van zodra onze productiesnelheid onder een verwachte piek zakt of op het moment dat er een productievere machine gevonden kan worden om in te grijpen.

De strijd tegen deze reducerende en cynische ideologie is al een paar honderd jaar zwaar bevochten dankzij krachtig verzet van arbeiders- en mensenrechtenbewegingen die humane, niet-mechanische, niet-economische normen voor de behandeling en waardering van mensen hebben geformuleerd en verdedigd – normen zoals waardigheid, rechtvaardigheid, autonomie en respect.

Maar om ons er uiteindelijk van te overtuigen dat mensen niet meer zijn dan mechanische generatoren van economisch waardevolle outputs, lijken er alleen werktuigmachines nodig te zijn geweest die dergelijke outputs genereren in onze primaire valuta van menselijke betekenis: taal en visie. Nu je een oneindige hoeveelheid van deze valuta uit een app op je smartphone kunt halen, accepteren we de komst van ‘bovenmenselijke AI’ als een uitgemaakte zaak, iets dat al letterlijk voor de hand ligt.

Het terugwinnen van onze menselijkheid

De strijd is echter niet verloren. Zoals de filosoof Albert Borgmann schreef in zijn boek ‘ Technology and the Character of Contemporary Life ’ uit 1984, zijn het precies wanneer een technologie een essentieel domein van menselijke betekenis bijna heeft verdrongen, dat we kunnen voelen en rouwen om wat ons is ontnomen. Het is op dat moment dat we ons vaak beginnen te verzetten, terug te winnen en onszelf opnieuw toe te wijden aan de waarde ervan.

Zijn voorbeelden lijken tegenwoordig misschien alledaags. Hij schreef over de heropleving van de kookkunst na de magnetron als een gekoesterde creatieve en sociale praktijk, die zelfs door de meest efficiënte kookmachines onvervangbaar is. De bekwame en visionaire manier van koken heeft nu een veel grotere culturele waarde en status dan aan het einde van de 20e eeuw. Op dezelfde manier heeft de loopband de onvervangbare kunst van het buiten rennen en lopen niet geëlimineerd, alleen maar door een handiger en efficiënter middel te bieden voor hetzelfde aërobe doel.

In feite dacht Borgmann dat de zintuiglijke en sociale armoede van de ervaring van het gebruik van een loopband of magnetron onze culturele aandacht nieuw leven in zou kunnen blazen voor wat ze verminderden: activiteiten waarbij de hele persoon betrokken is, die ons voortdurend herinneren aan onze plaats in de fysieke wereld en waar we bij horen. daar met de andere levens die het delen. Hij had gelijk.

Misschien zou de ideologie van ‘bovenmenselijke’ AI, waarin mensen louter trage en inefficiënte patroonmatchers lijken, een nog uitgebreidere en politiek significante heropleving van menselijke betekenissen en waarden kunnen veroorzaken. Misschien zal de morele en ervaringsgerichte armoede van AI de meest vitale menselijke dimensies van onze inheemse intelligentie weer onder de aandacht brengen en een culturele terugwinning en herstel van hun lang ondergewaardeerde waarde bevorderen.

Hoe zou dat eruit kunnen zien? Stel je een sector van de samenleving voor waar de machine-ideologie nu domineert en bedenk hoe deze eruit zou zien als het doel van mechanische optimalisatie ondergeschikt zou worden aan het mogelijk maken van menselijke capaciteiten.

Laten we beginnen met onderwijs. In veel landen is het voormalige ideaal van een menselijk proces van morele en intellectuele vorming gereduceerd tot geoptimaliseerde routines voor het trainen van jonge mensen in het gedachteloos genereren van verwachte test-antwoordfiches uit testvragen. Generatieve AI-tools – waarvan sommige zichzelf adverteren als ‘de bovenmenselijke leraar van uw kind’ – beloven zelfs de leercurve van een kleuter te optimaliseren.

Maar in de VS, waarschijnlijk het meest technisch onderlegde land ter wereld, bevindt de liefde van jongeren voor lezen zich op het laagste niveau in decennia , terwijl het vertrouwen van ouders in onderwijssystemen op een historisch dieptepunt staat .  

Hoe zou het terugwinnen en nieuw leven inblazen van de humane leerervaring eruit zien? Wat voor wereld zouden onze kinderen voor zichzelf en toekomstige generaties kunnen bouwen als we ze weer graag leren leren, als we ze leren hoe ze hun menselijke potentieel kunnen herontdekken en omarmen? Hoe zou die wereld zich kunnen vergelijken met een wereld die is gebouwd door kinderen die alleen weten hoe ze een ondermaats presterende machine moeten zijn?

Of denk aan de economie. Hoe zou de steeds treuriger toestand van onze oceanen, lucht, bodem, voedselweb, infrastructuur en democratieën eruit zien als we zouden stoppen met het belonen van dwaze, metastatische groei in ‘huishoudelijke producten’ waaruit we machines (menselijk of silicium, wat het goedkoopste is) voortbrengen. welke milieu- of sociaal giftige vorm die kan verkopen? Hoe zou de toekomst die we tegemoet gaan veranderen als we nieuwe economische prikkels en maatregelen opleggen die gekoppeld zijn aan indicatoren voor de middellange en lange termijn van gezondheid, duurzaamheid, menselijke ontwikkeling en sociaal vertrouwen en veerkracht?

Hoe zit het met cultuur? Hoe anders zou de toekomst er uitzien als de huidige pogingen om AI te gebruiken ter vervanging van menselijke culturele producten tot stilstand zouden komen door een hernieuwde genegenheid voor ons eigen vermogen om betekenis te creëren, om de verhalen van de wereld te vertellen, om nieuwe vormen van schoonheid en expressie uit te vinden, om te verheffen en te verfraaien. de rauwe dierlijke ervaring van het leven?

Wat als we, in plaats van deze humane roepingen in de media, design en kunst te vervangen door hersenloze mechanische remixers en regurgitators van cultuur zoals ChatGPT, AI-ontwikkelaars zouden vragen ons te helpen met de meest betekenisloze taken in ons leven, de taken die onze energie wegnemen? voor al het andere dat ertoe doet? Wat als u nooit meer een belastingformulier hoeft in te dienen?

Wat als we technologieën als AI zouden ontwerpen met en ten behoeve van degenen die het meest kwetsbaar zijn voor corruptie, uitbuiting en onrecht? Wat als we onze beste AI-instrumenten zouden gebruiken om sneller en betrouwbaarder bewijzen van corrupte praktijken aan het licht te brengen, de politieke kosten ervan te verhogen en corruptie en uitbuiting systematischer naar de marges van het openbare leven te duwen? Wat als de bevolking collectief zou beloven alleen die politici, politie en rechters te belonen die bereid zijn de risico’s te nemen van het tonen van grotere transparantie, verantwoordelijkheid en integriteit in het bestuur?

Zelfs in deze meer humane toekomst zouden we verre van utopie zijn. Maar die mogelijke toekomst ziet er nog steeds veel rooskleuriger uit dan welke toekomst dan ook die wordt gedomineerd door de ideologie van bovenmenselijke AI.

Dat betekent niet dat AI geen plaats heeft in een menselijker wereld. We hebben AI nodig om inherent onveilige of mensonvriendelijke taken over te nemen, zoals het opruimen van het milieu en de verkenning van de ruimte; we hebben het nodig om ons te helpen de kosten, ontslagen en tijdlast van alledaagse administratieve processen terug te dringen; we hebben AI nodig om het onderhoud en de reparatie van infrastructuur op te schalen; we hebben AI nodig voor de computationele analyse van complexe systemen zoals klimaat, genetica, landbouw en toeleveringsketens. We lopen geen gevaar dat we geen belangrijke dingen meer hoeven te doen voor onze machines.

We lopen het gevaar dat we ons slaapwandelend een weg banen naar een toekomst waarin we alleen maar jammerlijker falen als we zelf die machines zijn. Zijn we er klaar voor om onszelf wakker te maken? Kunnen mensen zich in een tijdperk dat alleen mechanisch denken beloont en erkent nog steeds herinneren en terugwinnen wat we zijn? Ik denk niet dat het te laat is. Ik denk dat dit misschien precies het moment is.