Indignatie redactie 
AI – Silicon Valley jaagt ons richting geautomatiseerde oorlogsvoering.
Durfkapitaal- en militaire startupbedrijven in Silicon Valley zijn agressief begonnen met de verkoop van een versie van geautomatiseerde oorlogsvoering die kunstmatige intelligentie (AI) diepgaand zal integreren. Die bedrijven en hun CEO’s gaan nu vol gas vooruit met die opkomende technologie, waarbij ze het risico van storingen die kunnen leiden tot toekomstige slachtingen van burgers grotendeels negeren, om nog maar te zwijgen van de mogelijkheid van gevaarlijke scenario’s van escalatie tussen grote militaire machten.
De redenen voor deze halsbrekende haast zijn onder meer een misplaatst geloof in “wonderwapens”, maar bovenal wordt deze golf van steun voor opkomende militaire technologieën aangestuurd door de ultieme reden van het militair-industriële complex: enorme sommen geld die verdiend kunnen worden.
De nieuwe techno-enthousiastelingen
Terwijl sommigen in het leger en het Pentagon zich inderdaad zorgen maken over het toekomstige risico van AI-wapens, is de leiding van het ministerie van Defensie er volledig aan boord. De energieke toewijding aan opkomende technologie werd voor het eerst aan de wereld uitgezonden in een toespraak in augustus 2023 van plaatsvervangend minister van Defensie Kathleen Hicks tot de National Defense Industrial Association, de grootste wapenindustrie-handelsorganisatie in het land.
Ze gebruikte de gelegenheid om aan te kondigen wat ze “het Replicator Initiative” noemde, een overkoepelende inspanning om te helpen “een nieuwe state of the art te creëren – net zoals Amerika dat eerder heeft gedaan – door gebruik te maken van toerekenbare, autonome systemen in alle domeinen – die goedkoper zijn, minder mensen in de vuurlinie brengen en kunnen worden gewijzigd, bijgewerkt of verbeterd met aanzienlijk kortere doorlooptijden.”
Hicks was allesbehalve verlegen om te wijzen op de primaire reden voor zo’n haast richting robotoorlogvoering: China voorbijstreven en intimideren. “We moeten,” zei ze, “ervoor zorgen dat de leiding van de PRC [Volksrepubliek China] elke dag wakker wordt, de risico’s van agressie overweegt en concludeert: ‘vandaag is niet de dag’ — en niet alleen vandaag, maar elke dag, tussen nu en 2027, nu en 2035, nu en 2049, en daarna.”
Hicks grote vertrouwen in het vermogen van het Pentagon en de Amerikaanse wapenfabrikanten om in de toekomst techno-oorlogen te voeren, is versterkt door een groep moderne militaristen in Silicon Valley en daarbuiten, aangevoerd door bedrijfsleiders als Peter Thiel van Palantir, Palmer Luckey van Anduril en durfkapitalisten als Marc Andreessen van Andreessen Horowitz.
Patriotten of profiteurs?
Deze bedrijfsmatige voorstanders van een nieuwe vorm van oorlogvoering zien zichzelf ook als een nieuw soort patriotten, die klaar en in staat zijn om de militaire uitdagingen van de toekomst met succes het hoofd te bieden.
Een voorbeeld hiervan is “Rebooting the Arsenal of Democracy,” een lang manifest op Andurils blog. Het prijst de superioriteit van Silicon Valley startups aan boven old-school militair-industriële giganten als Lockheed Martin in het leveren van de technologie die nodig is om de oorlogen van de toekomst te winnen:
“De grootste defensie-aannemers hebben patriotten in dienst die desondanks niet over de software-expertise of het bedrijfsmodel beschikken om de technologie te bouwen die we nodig hebben… Deze bedrijven hebben de tools gebouwd die ons in het verleden veilig hielden, maar ze zijn niet de toekomst van defensie.”
In tegenstelling tot de aanpak uit het industriële tijdperk die het bekritiseert, zoeken Luckey en zijn landgenoten bij Anduril naar een geheel nieuwe manier om wapens te ontwikkelen en te verkopen:
“Software zal de manier waarop oorlog wordt gevoerd veranderen. Het slagveld van de toekomst zal wemelen van kunstmatige intelligente, onbemande systemen, die vechten, verkenningsgegevens verzamelen en communiceren met adembenemende snelheden.”
Op het eerste gezicht lijkt Luckey een onwaarschijnlijke kandidaat om zo ver te zijn gestegen in de gelederen van de wapenindustrie. Hij verdiende zijn eerste fortuin door het Oculus virtual reality-apparaat te creëren , een nieuwigheid die gebruikers op hun hoofd kunnen bevestigen om verschillende 3D-scènes te ervaren (met het gevoel dat ze erin zijn ingebed). Zijn smaak voor kleding gaat uit naar sandalen en Hawaïaanse shirts, maar hij is nu volledig overgestapt op militair werk.
In 2017 richtte hij Anduril op, deels met steun van Peter Thiel en zijn investeringsbedrijf Founders Fund. Anduril maakt momenteel autonome drones, geautomatiseerde commando- en controlesystemen en andere apparaten die bedoeld zijn om de snelheid te versnellen waarmee militair personeel doelen kan identificeren en vernietigen.
Thiel, een mentor van Palmer Luckey, biedt een voorbeeld van hoe de leiders van de nieuwe wapenstartups verschillen van de titanen uit het Koude Oorlog-tijdperk. Om te beginnen is hij helemaal voor Donald Trump. Vroeger probeerden de hoofden van grote wapenfabrikanten zoals Lockheed Martin goede banden te onderhouden met zowel Democraten als Republikeinen, door substantiële campagnebijdragen te leveren aan beide partijen en hun kandidaten en lobbyisten in te huren met connecties aan beide kanten van het politieke spectrum.
De logica om dat te doen leek toen niet duidelijker. Ze wilden een bipartizane consensus bekrachtigen om steeds meer uit te geven aan het Pentagon, een van de weinige dingen waar de meeste belangrijke leden van beide partijen het over eens waren. En ze wilden ook bijzonder goede relaties hebben met welke partij dan ook die op enig moment de controle had over het Witte Huis en/of het Congres.
De nieuwkomers in Silicon Valley en hun vertegenwoordigers zijn ook veel luider in hun kritiek op China. Ze zijn de koudste (of bedoel ik heetste?) van de nieuwe koude krijgers in Washington, en gebruiken hardere retoriek dan het Pentagon of de grote aannemers. Daarentegen witwassen de grote aannemers over het algemeen hun kritiek op China en hun steun voor oorlogen over de hele wereld, die hun winstmarges hebben helpen opkrikken via denktanks, die ze jaarlijks voor tientallen miljoenen dollars hebben gefinancierd .
Thiels belangrijkste bedrijf, Palantir, is ook bekritiseerd omdat het systemen levert die strenge grenscontroles door de Amerikaanse Immigration and Customs Enforcement (ICE) mogelijk hebben gemaakt, evenals ‘ voorspellende politiezorg ‘. Dat (het zal u niet verbazen) omvat het verzamelen van enorme hoeveelheden persoonlijke gegevens zonder bevelschrift, waarbij gebruik wordt gemaakt van algoritmen met ingebouwde raciale vooroordelen die leiden tot systematische oneerlijke targeting en behandeling van mensen van kleur.
Om volledig te begrijpen hoe de militaristen van Silicon Valley de volgende generatie oorlogsvoering zien, moet u het werk van Christian Brose, Palantir’s Chief Strategy Officer, bekijken . Hij was een langdurige militaire hervormer en voormalig adviseur van de overleden senator John McCain. Zijn boek Kill Chain dient als een soort bijbel voor voorstanders van geautomatiseerde oorlogsvoering.
De belangrijkste observatie: dat de winnaar in een gevecht de partij is die het meest effectief de “kill chain” (de tijd tussen het moment waarop een doelwit wordt geïdentificeerd en vernietigd) kan verkorten. Zijn boek gaat ervan uit dat de meest waarschijnlijke tegenstander in de volgende technologische oorlog inderdaad China zal zijn en hij overdrijft vervolgens de militaire capaciteiten van Beijing, terwijl hij zijn militaire ambities overdrijft en erop staat dat het overtreffen van dat land in het ontwikkelen van opkomende militaire technologieën de enige weg is naar toekomstige overwinning.
En bedenk wel, Brose’s visie om die kill chain te verkorten brengt immense risico’s met zich mee. Naarmate de tijd om te beslissen welke acties te ondernemen afneemt, zal de verleiding om mensen “uit de loop” te halen alleen maar toenemen, waardoor beslissingen over leven en dood worden overgelaten aan machines zonder moreel kompas en kwetsbaar voor catastrofale storingen van een soort die inherent zijn aan elk complex softwaresysteem.
Veel van Brose’s kritiek op het huidige militair-industriële complex is waar. Een paar grote bedrijven worden rijk door steeds kwetsbaardere enorme wapenplatforms te maken, zoals vliegdekschepen en tanks, terwijl het Pentagon miljarden uitgeeft aan een enorm, kostbaar wereldwijd basisnetwerk dat vervangen zou kunnen worden door een veel kleinere, meer verspreide militaire voetafdruk. Helaas roept zijn alternatieve visie meer problemen op dan het oplost.
Ten eerste is er geen garantie dat de softwaregestuurde systemen die door Silicon Valley worden gepromoot, werken zoals geadverteerd. Er is immers een lange geschiedenis van ‘wonderwapens’ die faalden , van het elektronische slagveld in Vietnam tot het rampzalige Star Wars -raketschild van president Ronald Reagan . Zelfs toen het vermogen om doelen sneller te vinden en te vernietigen inderdaad verbeterde, waren oorlogen zoals die in Irak en Afghanistan, die met behulp van diezelfde technologieën werden uitgevochten, treurige mislukkingen.
Een recent onderzoek van de Wall Street Journal suggereert dat de nieuwe generatie militaire technologie ook te veel wordt verkocht. De Journal ontdekte dat kleine, hoogwaardige nieuwe Amerikaanse drones die aan Oekraïne zijn geleverd voor de verdedigingsoorlog tegen Rusland, veel te “onstabiel en duur” zijn gebleken, zozeer zelfs dat, ironie der ironieën, de Oekraïners ervoor hebben gekozen om in plaats daarvan goedkopere, betrouwbaardere Chinese drones te kopen.
Ten slotte zal de aanpak die Brose en zijn aanhangers voorstaan de kans op oorlog vergroten, omdat technologische arrogantie het geloof inboezemt dat de Verenigde Staten een rivaliserende kernmacht als China in een conflict wel degelijk kunnen ‘verslaan’, als we maar investeren in een wendbare nieuwe hightechmacht.
Het resultaat, zoals mijn collega Michael Brenes en ik onlangs aangaven , is de ontelbare miljarden dollars aan privégeld die nu naar bedrijven stromen die de grenzen van de techno-oorlog willen verleggen. De schattingen variëren van $ 6 miljard tot $ 33 miljard per jaar en, volgens de New York Times , $ 125 miljard in de afgelopen vier jaar . Wat de cijfers ook zijn, de technologiesector en haar financiële backers voelen dat er enorme bedragen te verdienen zijn met wapens van de volgende generatie en laten zich door niemand in de weg staan.
Ondertussen ontdekte een onderzoek door Eric Lipton van de New York Times dat durfkapitalisten en startende bedrijven die al het tempo van AI-gedreven oorlogsvoering opvoeren, ook druk bezig zijn met het inhuren van ex-militairen en Pentagon-functionarissen om hun bevelen uit te voeren. Hoog op die lijst staat voormalig Trump-minister van Defensie Mark Esper. Zulke connecties worden misschien gedreven door patriottische ijver, maar een waarschijnlijker motief is gewoon de wens om rijk te worden.
Zoals Ellen Lord, voormalig hoofd van acquisitie bij het Pentagon, opmerkte : “Er is nu flair met de banden tussen de defensiegemeenschap en private equity. Maar ze hopen ook dat ze flink kunnen cashen en een hoop geld kunnen verdienen.”
De Filosoof Koning
Een andere centrale figuur in de beweging richting het bouwen van een hightech oorlogsmachine is voormalig Google CEO Eric Schmidt. Zijn interesses reiken veel verder dan het militaire domein. Hij is een virtuele filosoofkoning geworden als het gaat om hoe nieuwe technologie de samenleving zal hervormen en, inderdaad, wat het betekent om mens te zijn.
Hij denkt al een tijdje na over dergelijke kwesties en heeft zijn standpunten uiteengezet in een boek uit 2021 met de bescheiden titel The Age of AI and Our Human Future , dat hij samen met niemand minder dan wijlen Henry Kissinger schreef. Schmidt is zich bewust van de potentiële gevaren van AI, maar hij staat ook centraal in de inspanningen om de militaire toepassingen ervan te promoten.
Hoewel hij afziet van de messiaanse benadering van enkele opkomende figuren uit Silicon Valley, is het de vraag of zijn ogenschijnlijk meer doordachte benadering zal bijdragen aan de ontwikkeling van een veiligere, verstandigere wereld van AI-wapens.
Laten we beginnen met het meest basale van alles: de mate waarin Schmidt denkt dat AI het leven zoals we dat kennen zal veranderen, is buitengewoon. In dat boek van hem en Kissinger beweerden ze dat het “de verandering van de menselijke identiteit en de menselijke ervaring zou veroorzaken op niveaus die we sinds het begin van de moderne tijd niet meer hebben gezien”, en betoogden dat het functioneren van AI “voorspelt dat er vooruitgang is in de richting van de essentie van dingen, vooruitgang die filosofen, theologen en wetenschappers al millennia lang met gedeeltelijk succes nastreven.”
Aan de andere kant erkende het overheidspanel voor kunstmatige intelligentie waar Schmidt deel van uitmaakte de risico’s van het militaire gebruik van AI volledig. De vraag blijft: zal hij op zijn minst sterke waarborgen tegen misbruik ervan ondersteunen? Tijdens zijn ambtstermijn als hoofd van de Defense Innovation Board van het Pentagon van 2017 tot 2020, hielp hij wel het toneel te zetten voor de richtlijnen van het Pentagon over het gebruik van AI die beloofden dat mensen altijd “in de lus” zouden zijn bij het lanceren van wapens van de volgende generatie.
Maar zoals een criticus van de tech-industrie opmerkte, zodra de retoriek is weggehaald, “beletten de richtlijnen je niet echt om iets te doen.”
Senator Elizabeth Warren (D-MA) en andere voorstanders van goed bestuur vroegen zich af of Schmidts rol als hoofd van de Defense Innovation Unit geen potentieel belangenconflict vertegenwoordigde. Terwijl hij hielp bij het vormgeven van de richtlijnen voor de militaire toepassingen van AI, investeerde hij immers ook in bedrijven die konden profiteren van de ontwikkeling en het gebruik ervan.
Zijn investeringsentiteit, America’s Frontier Fund, investeert regelmatig geld in militaire tech-startups, en een non-profitorganisatie die hij oprichtte, het Special Competitive Studies Project , beschrijft zijn missie als “het versterken van Amerika’s concurrentievermogen op de lange termijn, aangezien kunstmatige intelligentie (AI) onze nationale veiligheid, economie en samenleving [hervormt].”
De groep is verbonden met een who’s who van leiders in het leger en de tech-industrie en dringt onder andere aan op minder regulering van de ontwikkeling van militaire technologie. In 2023 richtte Schmidt zelfs een militair dronebedrijf op, White Stork, dat volgens Forbes in het geheim zijn systemen test in de buitenwijk Menlo Park van Silicon Valley.
De vraag is nu of Schmidt overgehaald kan worden om zijn aanzienlijke invloed te gebruiken om de gevaarlijkste toepassingen van AI in toom te houden. Helaas suggereert zijn enthousiasme om het te gebruiken om oorlogsvoeringsmogelijkheden te verbeteren , anders:
“Af en toe komt er een nieuw wapen, een nieuwe technologie die dingen verandert. Einstein schreef in de jaren 30 een brief aan Roosevelt waarin hij zei dat er een nieuwe technologie is — kernwapens — die oorlog zou kunnen veranderen, wat hij duidelijk deed. Ik zou willen stellen dat [AI-aangedreven] autonomie en gedecentraliseerde, gedistribueerde systemen zo krachtig zijn.”
Gezien de reeds genoemde risico’s, zou het vergelijken van gemilitariseerde AI met de ontwikkeling van kernwapens niet bepaald geruststellend moeten zijn. De combinatie van de twee — kernwapens die worden aangestuurd door automatische systemen zonder menselijke tussenkomst — is tot nu toe uitgesloten, maar reken er niet op dat dit blijvend is. Het is nog steeds een mogelijkheid, zonder sterke, afdwingbare waarborgen voor wanneer en hoe AI kan worden gebruikt.
AI komt eraan en de impact ervan op ons leven, of het nu in oorlog of vrede is, zal waarschijnlijk de verbeelding tarten. In die context is één ding duidelijk: we kunnen het ons niet veroorloven om de mensen en bedrijven die het meest profiteren van de ongebreidelde toepassing ervan de overhand te laten hebben bij het maken van de regels voor hoe het gebruikt moet worden.
Is het niet tijd om het op te nemen tegen de nieuwe-tijd-krijgers ?
