AI-leiders (en Elon Musk) dringen er bij alle laboratoria op aan om krachtige AI te onderbreken

We hebben GPT-4. We zouden daar voorlopig kunnen stoppen en een moratorium instellen op nieuwe AI-systemen die krachtiger zijn dan dat.

Enkele van de grootste namen in AI slaan alarm over hun eigen creaties. In een dinsdag gepubliceerde open brief riepen meer dan 1.100 ondertekenaars op tot een moratorium op state-of-the-art AI-ontwikkeling.

“We roepen alle AI-labs op om de training van AI-systemen die krachtiger zijn dan GPT-4 (inclusief de momenteel getrainde GPT-5) onmiddellijk gedurende ten minste 6 maanden te onderbreken”, luidt de brief, uitgegeven door de Future of Life Institute, een non-profitorganisatie die werkt aan het verminderen van catastrofale en existentiële risico’s. “Deze pauze moet openbaar en verifieerbaar zijn en alle belangrijke actoren omvatten. Als zo’n pauze niet snel kan worden ingevoerd, moeten regeringen ingrijpen en een moratorium instellen.”

Dit zijn krachtige woorden van machtige mensen. Ondertekenaars zijn onder meer Elon Musk, die medeoprichter was van GPT-4-maker OpenAI voordat hij in 2018 met het bedrijf brak , samen met Apple-medeoprichter Steve Wozniak en Skype-medeoprichter Jaan Tallinn.

Sterker nog, onder de ondertekenaars bevinden zich fundamentele figuren op het gebied van kunstmatige intelligentie, waaronder Yoshua Bengio, die een pionier was in de AI-benadering die bekend staat als diep leren; Stuart Russell, een vooraanstaand onderzoeker bij UC Berkeley’s Center for Human-Compatible AI; en Victoria Krakovna, een onderzoekswetenschapper bij DeepMind.

Dit zijn mensen die AI kennen. En ze waarschuwen dat de samenleving niet klaar is voor de steeds geavanceerdere systemen die laboratoria zo snel mogelijk willen implementeren.

Er is hier een begrijpelijke impuls om met de ogen te rollen. Onder de ondertekenaars bevinden zich tenslotte enkele van de mensen die de generatieve AI-modellen naar buiten duwen waarvoor de brief waarschuwt. Mensen zoals Emad Mostaque, de CEO van Stability AI, die vorig jaar het tekst-naar-beeld-model Stable Diffusion uitbracht .

Maar gezien de hoge inzet rond snelle AI-ontwikkeling, hebben we twee opties. Optie één is om bezwaar te maken: “Dit zijn de mensen die ons in deze puinhoop hebben gebracht!” Optie twee is om bezwaar te maken: “Dit zijn de mensen die ons in deze puinhoop hebben gebracht!” – en zet ze vervolgens onder druk om alles te doen wat we kunnen om te voorkomen dat de puinhoop uit de hand loopt.

De brief stelt terecht dat we nog veel kunnen doen.

We kunnen – en moeten – de voortgang van AI vertragen

Sommige mensen gaan ervan uit dat we de technologische vooruitgang niet kunnen vertragen. Of dat zelfs als we het kunnen, we het niet zouden moeten doen, omdat AI de wereld zoveel voordelen kan brengen.

Beide aannames beginnen uit elkaar te vallen als je erover nadenkt.

Zoals ik schreef in mijn stuk waarin ik pleitte voor het vertragen van AI , is er geen technologische onvermijdelijkheid, geen natuurwet, die verklaart dat we GPT-5 volgend jaar en GPT-6 het jaar daarna moeten krijgen. Welke soorten AI we wel of niet bouwen, hoe snel of hoe langzaam we gaan – dit zijn beslissingen die wij mensen moeten nemen.

Hoewel het lijkt alsof een AI-race onvermijdelijk is vanwege de winst- en prestigeprikkels in de industrie – en vanwege de geopolitieke concurrentie – betekent het enige dat echt is dat de echte uitdaging is om de onderliggende stimulansstructuur te veranderen die alle actoren drijft.

De open brief herhaalt dit punt. We hebben een moratorium op krachtige AI nodig, zegt het, dus we hebben de kans om ons af te vragen:

Moeten we machines onze informatiekanalen laten overspoelen met propaganda en onwaarheid? Moeten we alle banen automatiseren, inclusief de vervullende? Moeten we niet-menselijke geesten ontwikkelen die ons uiteindelijk in aantal kunnen overtreffen, te slim af zijn, achterhaald zijn en ons kunnen vervangen? Moeten we het risico lopen de controle over onze beschaving te verliezen?

Met andere woorden: we hoeven geen robots te bouwen die onze banen inpikken en ons misschien vermoorden.

Het vertragen van een nieuwe technologie is niet een of ander radicaal idee, bestemd voor nutteloosheid. De mensheid heeft dit eerder gedaan – zelfs met economisch waardevolle technologieën. Denk maar aan het klonen van mensen of het aanpassen van de menselijke kiembaan. De recombinant-DNA-onderzoekers achter de Asilomar-conferentie van 1975 organiseerden beroemd een moratorium op bepaalde experimenten. Wetenschappers kunnen zeker de menselijke kiembaan wijzigen en ze zouden waarschijnlijk kunnen klonen. Maar met zeldzame uitzonderingen, zoals de Chinese wetenschapper He Jiankui – die tot drie jaar gevangenisstraf werd veroordeeld voor zijn werk aan het aanpassen van menselijke embryo’s – doen ze dat niet.

Hoe zit het met de andere veronderstelling – dat we AI niet moeten vertragen omdat het de wereld zoveel voordelen kan opleveren?

Het belangrijkste punt hier is dat we een verstandig evenwicht moeten vinden tussen potentiële voordelen en potentiële risico’s. Het heeft geen zin om door te gaan met het ontwikkelen van steeds krachtigere AI zonder op zijn minst enige mate van vertrouwen dat de risico’s beheersbaar zullen zijn. En die risico’s gaan niet alleen over de vraag of geavanceerde AI op een dag een existentiële bedreiging voor de mensheid zou kunnen vormen , maar ook of ze de wereld zullen veranderen op een manier die velen van ons zouden afwijzen. Hoe meer kracht de machine heeft om het leven te verstoren, hoe meer vertrouwen we kunnen hebben dat we de verstoringen aankunnen en denken dat ze de moeite waard zijn.

Wat we precies zouden doen met een pauze van zes maanden is minder duidelijk. Het congres, en de federale overheid in bredere zin, mist diepgaande expertise op het gebied van kunstmatige intelligentie , en het ongekende tempo en de kracht van AI maakt het veel moeilijker om normen te ontwikkelen om het te beheersen. Maar deze onzekerheid versterkt in ieder geval de reden om adem te halen.

Nogmaals, dit is geen radicaal standpunt. Dat heeft Sam Altman, de CEO van OpenAI, gezegd. Hij vertelde onlangs aan ABC News dat hij “een beetje bang” is voor de technologie die zijn bedrijf aan het maken is, inclusief hoe snel het sommige banen kan vervangen.

“Ik denk dat de mensheid over een paar generaties heeft bewezen dat ze zich wonderbaarlijk kan aanpassen aan grote technologische verschuivingen”, zei Altman. “Maar als dit in een eencijferig aantal jaren gebeurt, sommige van deze verschuivingen … Dat is het deel waar ik me het meest zorgen over maak.”

OpenAI zei zelfs in een recente verklaring : “Op een gegeven moment kan het belangrijk zijn om onafhankelijke beoordeling te krijgen voordat we beginnen met het trainen van toekomstige systemen, en voor de meest geavanceerde inspanningen om overeen te komen om de groeisnelheid van rekenkracht die wordt gebruikt voor het maken van nieuwe modellen.”

De tech-zwaargewichten die de open brief hebben ondertekend, zijn het daarmee eens. Dat punt, zeggen ze, is nu.