Doomsday Clock – Wie geloof je als het gaat om het einde van de wereld?
Indignatie redactie
6 min. lezen
De Doomsday Clock geeft de tijd aan voor een wereld die niet meer bestaat.
Doomsday Clock – Niet iedereen wil de wereld overheersen, maar het lijkt er de laatste tijd wel op alsof iedereen wil waarschuwen dat de wereld wel eens ten onder zou kunnen gaan.
Op dinsdag onthulde het Bulletin of the Atomic Scientists de jaarlijkse reset van de Doomsday Clock , die visueel weergeeft hoe dicht de experts van de organisatie denken dat het einde van de wereld nabij is. De wijzers, die een reeks existentiële risico’s weerspiegelen, variërend van toenemende nucleaire spanningen tot klimaatverandering en de opkomst van autocratie, stonden op 85 seconden voor middernacht, vier seconden dichter bij middernacht dan in 2025 en dichter bij middernacht dan ooit tevoren.
De dag ervoor publiceerde Dario Amodei, CEO van Anthropic en wellicht de filosofenkoning van de kunstmatige intelligentie, een essay van 19.000 woorden getiteld ” De adolescentie van technologie “. Zijn conclusie: “De mensheid staat op het punt een bijna onvoorstelbare macht in handen te krijgen, en het is volstrekt onduidelijk of onze sociale, politieke en technologische systemen wel de volwassenheid bezitten om die macht te kunnen uitoefenen.”
Mochten we deze “serieuze beschavingsuitdaging”, zoals Amodei het noemde, niet aankunnen, dan zou de wereld wel eens in het pikdonker van middernacht terecht kunnen komen. (Disclaimer: Future Perfect wordt mede gefinancierd door de BEMC Foundation, waarvan de belangrijkste financier ook een vroege investeerder in Anthropic was; zij hebben geen redactionele invloed op onze inhoud.)
Zoals ik al eerder heb gezegd , is het hoogtij in tijden van rampspoed. Maar als we deze twee zeer verschillende pogingen onderzoeken om existentiële risico’s te communiceren – de ene typisch voor het midden van de 20e eeuw, de andere voor onze eigen onzekere tijd – roept dat een vraag op. Naar wie moeten we luisteren? De profeten die buiten de poorten roepen? Of de hogepriester die tevens de tempel beheert?
Tik, tak
De Doomsday Clock bestaat al zo lang – hij werd in 1947 gemaakt, slechts twee jaar nadat de eerste kernbom Hiroshima had verwoest – dat we gemakkelijk vergeten hoe radicaal hij was. Niet alleen de klok zelf, die misschien wel een van de meest iconische en effectieve symbolen van de 20e eeuw is, maar ook de mensen die hem hebben gemaakt.
Het Bulletin of the Atomic Scientists werd direct na de oorlog opgericht door wetenschappers zoals J. Robert Oppenheimer – precies de mannen en vrouwen die de bom hadden ontwikkeld waar ze nu zo bang voor waren. Dat gaf hun waarschuwingen een ongekende morele helderheid. Op een moment van uitzonderlijk hoog institutioneel vertrouwen waren hier mensen die meer wisten over de werking van de bom dan wie ook, en die wanhopig aan het publiek vertelden dat we op weg waren naar nucleaire vernietiging.
De wetenschappers van het Bulletin hadden het voordeel van de realiteit aan hun zijde. Niemand kon na Hiroshima en Nagasaki nog twijfelen aan de verschrikkelijke kracht van deze bommen. Zoals mijn collega Josh Keating eerder deze week schreef , werden er eind jaren vijftig jaarlijks tientallen kernproeven over de hele wereld uitgevoerd. Dat kernwapens, vooral op dat moment, een duidelijk en ongekend existentieel risico vormden, was in wezen onbetwistbaar, zelfs voor de politici en generaals die deze arsenalen opbouwden.
Maar juist datgene wat de wetenschappers van het Bulletin hun morele geloofwaardigheid gaf – hun bereidheid om te breken met de overheid die ze ooit dienden – kostte hen het enige dat nodig was om die risico’s te beëindigen: macht.
Hoewel de Doomsday Clock nog steeds een treffend symbool is, is het in wezen een communicatiemiddel dat wordt gebruikt door mensen die geen zeggenschap hebben over de zaken die ze meten. Het is profetische taal zonder uitvoerende bevoegdheid. Wanneer het Bulletin, zoals dinsdag, waarschuwt dat het New START-verdrag afloopt of dat kernmachten hun arsenalen moderniseren, kan het er feitelijk niets aan doen, behalve hopen dat beleidsmakers – en het publiek – luisteren.
En hoe minder duidelijk die waarschuwingen worden, hoe moeilijker het is om gehoord te worden.
Sinds het einde van de Koude Oorlog een nucleaire oorlog van de agenda haalde – althans tijdelijk – zijn de berekeningen achter de Doomsday Clock uitgebreid met klimaatverandering, bioveiligheid, de achteruitgang van de Amerikaanse volksgezondheidsinfrastructuur, nieuwe technologische risico’s zoals ‘ spiegelleven ‘, kunstmatige intelligentie en autocratie. Al deze uitdagingen zijn reëel en elk op hun eigen manier bedreigt het leven op deze planeet. Maar samen vertroebelen ze de angstaanjagende precisie die de klok beloofde. Wat ooit een uurwerk leek, blijkt giswerk te zijn, slechts één waarschuwing te midden van talloze andere.
De insider
Meer nog dan de meeste leiders op het gebied van AI, wordt Amodei vaak vergeleken met Oppenheimer .
Amodei was in de eerste plaats natuurkundige en wetenschapper. Hij leverde belangrijk werk aan de ‘schaalwetten’ die de weg vrijmaakten voor krachtige kunstmatige intelligentie, net zoals Oppenheimer cruciaal onderzoek deed dat de weg vrijmaakte voor de bom. Net als Oppenheimer, wiens ware talent lag in de organisatorische vaardigheden die nodig waren om het Manhattanproject te leiden, heeft Amodei bewezen een zeer capabel bedrijfsleider te zijn.
En net als Oppenheimer – in ieder geval na de oorlog – heeft Amodei zijn publieke positie niet geschuwd om in duidelijke bewoordingen te waarschuwen voor de technologie die hij mede heeft ontwikkeld. Had Oppenheimer toegang gehad tot moderne blogtools, dan had hij gegarandeerd iets als “De adolescentie van de technologie” geschreven, zij het met wat meer Sanskriet .
Het verschil tussen deze cijfers is er een van controle. Oppenheimer en zijn collega-wetenschappers verloren vrijwel onmiddellijk de controle over hun creatie aan de overheid en het leger, en in 1954 verloor Oppenheimer zelf zijn veiligheidsmachtiging. Vanaf dat moment zouden hij en zijn collega’s grotendeels buitenstaanders zijn.
Amodei daarentegen spreekt als CEO van Anthropic, het AI-bedrijf dat momenteel misschien wel meer dan enig ander bedrijf de grenzen van AI opzoekt . Wanneer hij baanbrekende visies schetst van AI als potentieel “een land van genieën in een datacenter”, of catastrofale scenario’s doorneemt variërend van door AI gecreëerde biologische wapens tot technologisch mogelijk gemaakte massale werkloosheid en concentratie van rijkdom, spreekt hij vanuit de tempel van de macht.
Het is bijna alsof de strategen die de plannen voor een kernoorlog opstelden, ook aan de wijzers van de Doomsday Clock zaten te prutsen. (Ik zeg “bijna” vanwege een belangrijk verschil: kernwapens beloven alleen vernietiging, terwijl AI zowel grote voordelen als verschrikkelijke risico’s belooft. Dat is misschien de reden waarom je 19.000 woorden nodig hebt om je gedachten hierover te formuleren.)
Dit alles roept de vraag op of het feit dat Amodei zoveel macht heeft om de richting van AI te beïnvloeden, zijn waarschuwingen meer geloofwaardigheid geeft dan die van buitenstaanders, zoals de wetenschappers van het Bulletin – of juist minder.
Hoe laat is het?
Het model van het Bulletin is integer, maar verliest steeds meer relevantie, vooral voor AI. De atoomwetenschappers verloren de controle over kernwapens op het moment dat ze werkten. Amodei heeft de controle over AI niet verloren – de beslissingen van zijn bedrijf over de release ervan zijn nog steeds van enorm belang. Dat maakt de positie van het Bulletin als buitenstaander minder toepasbaar. Je kunt niet effectief waarschuwen voor de risico’s van AI vanuit een volledig onafhankelijke positie, omdat de mensen met de beste technische kennis grotendeels werkzaam zijn binnen de bedrijven die de technologie ontwikkelen.
Maar het model van Amodei kent een eigen probleem: het belangenconflict is structureel en onontkoombaar.
Elke waarschuwing die hij geeft, gaat gepaard met de toevoeging: “maar we moeten absoluut doorgaan met ontwikkelen.” In zijn essay betoogt hij expliciet dat het stoppen of aanzienlijk vertragen van de AI-ontwikkeling “fundamenteel onhoudbaar” is – dat als Anthropic geen krachtige AI bouwt, iemand anders dat wel zal doen . Dat is misschien waar. Het is misschien zelfs het beste argument waarom veiligheidsbewuste bedrijven in de race moeten blijven. Maar het is ook, heel toevallig, het argument dat hem in staat stelt te blijven doen wat hij doet, met alle immense voordelen die dat met zich mee kan brengen.
Dit is de valkuil die Amodei zelf beschrijft: “Er valt zoveel geld te verdienen met AI – letterlijk biljoenen dollars per jaar – dat zelfs de eenvoudigste maatregelen moeite hebben om de politieke economie die inherent is aan AI te overwinnen.”
De Doomsday Clock was ontworpen voor een wereld waarin wetenschappers buiten de instellingen die existentiële bedreigingen creëerden, konden treden en met onafhankelijk gezag konden spreken. We leven wellicht niet meer in die wereld. De vraag is wat we ervoor in de plaats bouwen – en hoeveel tijd we daar nog voor hebben.
