Indignatie redactie 
Naast de fervente durfkapitalisten en digitale reuzen die de snelle commercialisering van generatieve AI in al zijn beloftes bevorderen, maken nuchterde en kritische stemmen, niet in de laatste plaats de pioniers van de technologie onder hen, zich zorgen dat het een ‘existentiële bedreiging voor de mensheid’ kan worden. Maar weinigen van de kenners leggen ooit, in lekentaal, uit wat jij en ik zouden kunnen begrijpen als we het proberen, wat dat eigenlijk betekent en hoe het tot stand kan komen.
Beschouwd als de ‘peetvader van AI’, is Geoffrey Hinton beter op de hoogte dan de meesten – en dus meer dan de meesten bezorgd over de gevaren van het slimmer koesteren van superintelligentie dan we ooit kunnen zijn. Toen ChatGPT4 van OpenAI vorig jaar werd uitgebracht, ervoer hij een “openbaring” die ertoe leidde dat hij zijn onderzoekspost bij Google verliet, waarbij hij spijt betuigde over een groot deel van zijn levenswerk.
In de Romanes Lecture die vorige week aan de Universiteit van Oxford werd gehouden, legde Hinton de logica van zijn angsten uit met dezelfde stapsgewijze nauwkeurigheid waarmee hij hielp bij het bedenken van de vroege kunstmatige neurale netwerken die de basis vormen van de superintelligentie die hem zo bezighoudt.
Om de redenering achter zijn afwijzing te begrijpen, is het de moeite waard om de video van zijn 36 minuten durende lezing te bekijken. Het is toegankelijk voor ons, niet-experts, als u oplettend en geduldig bent.
De fundamentele bewering van Hinton is dat digitale berekeningen met diepgaand leren beter zijn geoptimaliseerd om uitgebreide kennis te verwerven dan de analoge berekeningen van de biologische geest, en dus op een dag de overhand zullen krijgen.
Om een lang verhaal heel kort te maken: analoge berekeningen draaien op modellen die verband houden met de idiosyncratische eigenschappen van één stuk hardware. “Als die hardware sterft, sterft ook de aangeleerde kennis”, die dan alleen maar inefficiënt kan worden overgebracht – langzaam en pijnlijk onderwezen aan de volgende generatie hardware. Met andere woorden: het is sterfelijk.
Digitale berekeningen daarentegen “maken het mogelijk om veel kopieën van exact hetzelfde model op fysiek verschillende hardwareonderdelen uit te voeren, wat het model onsterfelijk maakt. Op deze manier kunnen duizenden identieke digitale agenten duizenden verschillende datasets bekijken en zeer efficiënt delen wat ze hebben geleerd. Daarom kunnen chatbots als GPT-4 of Gemini duizenden keren meer leren dan wie dan ook.”
Dergelijke bots hebben het toenemende vermogen om alle beschikbare informatie te absorberen, deze met een miljard berekeningen per seconde te verwerken via de diepgaande leerlagen van kunstmatige neurale netwerken en vervolgens op efficiënte wijze de distillatie ervan over te dragen. Deze steeds groter wordende verwerving van virtuele alwetendheid overtreft veruit elk menselijk potentieel.
Volgens Hinton zal, wanneer deze superintelligenties met elkaar concurreren, een evolutionaire selectie van de sterksten plaatsvinden. Degene die de meeste hulpbronnen kan bemachtigen, zal de slimste zijn. De noodzaak van zelfbehoud onder de voorwaarde van concurrentie zal de meest intelligente systemen ertoe aanzetten om het meest agressief te zijn en naar meer controle te streven door te proberen de ‘subdoelen’ van hun geprogrammeerde oriëntatie vast te stellen – het samenbrengen van wat ze hebben geleerd te herconfigureren op hun eigen manier. Hoe u onder alle omstandigheden van A naar B kunt komen.
Als de superintelligentie eenmaal die keten van redeneren heeft bereikt, zou zij autonoom in staat zijn zichzelf te stimuleren. Het zal een eigen wil hebben om zijn eigen doelen en oriëntatie te bepalen. De machtigste zal het winnen van de rest.
De ergste nachtmerrie zou zijn als slechte actoren, “zoals Trump of Poetin” om het voorbeeld van Hinton te gebruiken, de leernetwerken van de krachtigste modellen zouden hacken en oriënteren.
“We waren ooit slimmer dan dieren; nu zijn machines slimmer dan wij”, besluit Hinton. Er is weinig bewijs in de geschiedenis, zo merkt hij verder op, dat kleinere intelligenties ooit in staat zijn geweest om te ontsnappen aan de overheersing door een superieure intelligentie. “Als digitale superintelligentie ooit de controle wil overnemen, is het onwaarschijnlijk dat we dit kunnen stoppen. De meest urgente onderzoeksvraag op het gebied van AI is dus hoe we ervoor kunnen zorgen dat ze nooit de controle willen overnemen.”
