AI – Rode lijnen en oorlogsvoering met kunstmatige intelligentie

Het valt nog te bezien of het Australische beleid ten aanzien van het inzetten van AI als wapen de morele grens zal vastleggen die het delegeren van beslissingen over leven en dood aan machines verbiedt.

Australië lijkt halsoverkop af te stevenen op ongereguleerde AI-oorlogvoering, en deze schokkende mogelijkheid haalt vrijwel nooit de reguliere media.

De afgelopen tien jaar is er een enorme versnelling geweest in de militarisering van kunstmatige intelligentie (AI).

Tijdens een toespraak voor de Veiligheidsraad van de Verenigde Naties eind september  verklaarde de Australische minister van Buitenlandse Zaken, Penny Wong  : “Beslissingen over leven en dood mogen nooit aan machines worden overgelaten, en samen moeten we de regels vaststellen en de normen bepalen.” 

De vooruitgang in AI-wapens vindt plaats op alle gebieden: zelfsturende vliegtuigen, drones, onderzeeërs, robottanks en kanonnen.

Dit heeft ethische, juridische en humanitaire zorgen opgeroepen, die door regeringen, het bedrijfsleven, deskundigen en het maatschappelijk middenveld zijn besproken, maar die internationaal noch nationaal volledig zijn aangepakt.    

De opmerkingen van Wong weerspiegelen de gevoelens die steeds meer mensen, VN-functionarissen, deskundigen en het publiek delen met betrekking tot autonome wapens.

De secretaris-generaal van de VN  heeft dodelijke autonome wapensystemen (LAWS) herhaaldelijk “politiek onaanvaardbaar en moreel verwerpelijk” genoemd  .

Sterk gemilitariseerde landen boeken echter vooruitgang, met name China, India, Israël, Rusland en de VS. 

Toenemende autonomie in wapens brengt het risico met zich mee dat de menselijke besluitvorming wordt uitgehold, en vormt tevens een bedreiging voor de veiligheid en de humanitaire situatie. Dit zijn kwesties die door deze landen en een groot deel van het gangbare debat worden genegeerd.

Het wegnemen van menselijke beperkingen bij cruciale functies, met name de beslissing wie of wat er aangevallen moet worden en of en wanneer, draagt ​​bij aan een toename van humanitaire schade in conflicten.

Bovendien, met de escalatie, de toegenomen snelheid en schaal, en de verergering van discriminatie op basis van ras, geslacht en andere vooroordelen, bestaat er een groot risico als autonome wapens tegen mensen worden ingezet.

Daarom wordt er aangedrongen op specifieke verboden en verplichtingen met betrekking tot autonome wapens.

Australië heeft enorme investeringen gedaan in autonomie voor defensie, en toch is er nauwelijks publiek of politiek debat over. De regering-Albanese verzet zich tegen nieuwe wettelijke regelgeving.       

Australië en toenemende autonomie wereldwijd

In Australië is de ontwikkeling van AI en autonomie binnen het leger in een stroomversnelling geraakt, waarbij zowel de overheid als de particuliere sector vol gas geven.

Vicepremier Richard Marles heeft  gezegd  dat “Australië moet investeren in de overgang naar nieuwe en innovatieve technologieën voor onze strijdkrachten”, met betrekking tot de oprichting van de  Advanced Strategic Capabilities Accelerator,  waarin AI een specifiek prioriteitsgebied is. Dit is een belangrijk financieringsmechanisme voor militaire AI-projecten als onderdeel van de bredere agenda voor geavanceerde capaciteiten.

Autonomie wordt toegepast in functies zoals zelfsturende vliegtuigen, onderzeeërs en tanks. Het meest verontrustend is het gebruik van algoritmes of andere autonome systemen die ontwikkeld zijn voor het richten op en aanvallen van doelen.

Bij een autonoom wapen zonder menselijke controle zou een aanval worden uitgevoerd op basis van sensorgegevens, zoals gezichtsherkenning, warmteafdrukken of akoestische signalen, in plaats van dat een menselijke operator precies bepaalt wanneer, waar of waarop een aanval wordt uitgevoerd. 

Het Australische bedrijf Athena AI heeft zich toegelegd op AI-gestuurde software voor militaire doelbepaling. Athena AI  werd begin vorig jaar overgenomen  door een Amerikaans bedrijf dat nu opereert onder de naam Sightline Intelligence, met een vestiging in Australië. Het bedrijf zet de ontwikkeling van hun AI-gestuurde technologieën voor militaire platforms voort. 

Hun software wordt nu ook gepresenteerd als geïntegreerd in een bewapend, autonoom landvoertuig genaamd ‘Warfighter UGV’, ontwikkeld door een ander particulier Australisch wapenbedrijf, Cyborg Dynamics.

Australische wapenbedrijven zoals Cyborg Dynamics, C2 Robotics, Defend Tex en Skyborne Technologies bewegen zich op glad ijs door de ontwikkeling van autonome wapensystemen, zonder wettelijke beperkingen.

In september  waarschuwde de Oekraïense president Volodymyr Zelensky dat “het slechts een kwestie van tijd is… voordat drones tegen drones vechten, kritieke infrastructuur aanvallen en mensen als doelwit nemen… volledig autonoom en zonder menselijke tussenkomst.” 

Oekraïne is een van de vele conflictgebieden waar steeds autonomere oorlogsvoering plaatsvindt met een hoge mensenprijs tot gevolg.

Met name AI-tools zoals ‘Lavender‘ of ‘The Gospel’,  die door de Israëlische defensiemacht in Gaza worden gebruikt  om massaal doelwitlijsten van individuen samen te stellen op basis van door AI gegenereerde beoordelingen, zijn de eerste meldingen van AI-systemen voor het genereren van doelwitten.

Deze toepassingen van AI in conflicten versnellen de snelheid en de omvang van het doden, intensiveren conflicten en leiden tot massale humanitaire schade.

Verweven met de VS

De vooruitgang van Australië op het gebied van wapenontwikkeling en toenemende autonomie is nauw verbonden met internationale partners, met name de VS. De banden met de VS beïnvloeden de Australische activiteiten op het gebied van militaire AI.

Dit is verergerd door AUKUS, een veiligheidsakkoord tussen Australië, het Verenigd Koninkrijk en de Verenigde Staten dat de onafhankelijkheid van Australië beperkt en de afhankelijkheid van Canberra van Washington vergroot.

Australië organiseerde in 2024 “Exercise Autonomous Warrior”, de eerste gezamenlijke militaire oefening in een reeks genaamd “Maritime Big Play” als onderdeel van AUKUS.

De AUKUS-partners  kondigden  de reeks aan met als doel “de ontwikkeling van capaciteiten te bevorderen en de interoperabiliteit tussen de partners te verbeteren”, met een focus op de maritieme omgeving en AI en autonomie.

Maritime Big Play is verbonden met pijler II van AUKUS, die het delen van geavanceerde technologie bevordert. Pijler II van AUKUS heeft invloed op militaire initiatieven, prioriteiten van de overheid en de bedrijfsactiviteiten van bedrijven uit de particuliere sector. 

De regering  meldde  dat tijdens ‘Exercise Autonomous Warrior’ “onder de in Australië ontwikkelde capaciteiten de langeafstandszweefvlieger OWL-B, het onbemande oppervlakteschip Bluebottle, het extra grote autonome onderwatervoertuig Ghost Shark en het grote onbemande onderwatervoertuig Speartooth werden getest.”

Met betrekking tot de oefening benadrukte minister van Defensie Richard Marles  de samenwerking en zei: “Pillar II is een unieke kans voor onze drie landen om onze gezamenlijke innovatiekracht, ondernemingen en industriële basis te benutten en te versterken.”

Wat de invloed op het industrielandschap betreft, is ‘Ghost Shark’ het resultaat van een contract met het Amerikaanse bedrijf Anduril. Het project was cruciaal voor Andurils expansie naar Australië. 

Anduril  noemde specifiek  AUKUS en hoe “technologieën zoals kunstmatige intelligentie, kosteneffectieve autonome onbemande systemen en de volgende generatie netwerkwapens tot de topprioriteiten van de Australische defensiemacht behoren.” 

Anduril is een controversieel bedrijf, nauw verbonden met de Amerikaanse veiligheidsdiensten en  medeplichtig  aan oorlogsmisdaden wereldwijd, waaronder in Soedan, waar de Verenigde Arabische Emiraten wapens leveren die worden gebruikt in de burgeroorlog, waarvan sommige geproduceerd zijn via de samenwerking tussen Anduril en het wapenconglomeraat EDGE Group uit de Verenigde Arabische Emiraten. 

Een samenwerking tussen de Royal Australian Air Force en Boeing voor de ontwikkeling van het autonome gevechtsvliegtuig ‘Ghost Bat’ heeft ertoe geleid dat Boeing zijn eerste productiefaciliteit buiten de VS heeft geopend. De faciliteit wordt gebouwd in het Wellcamp Aerospace and Defence Precinct, nabij Toowoomba in Queensland.

De toenemende aanwezigheid van multinationale wapenfabrikanten in Australië, gedreven door geavanceerde technologieën en samenwerking met de VS, roept vragen op over wie daar nu echt van profiteert: Canberra of Washington? 

Andere multinationale wapenfabrikanten die in Australië actief zijn, zoals Lockheed Martin, BAE Systems en Thales, hebben projecten op het gebied van autonomie. Advances Systems and Technology (voorheen STELaRLab) is Lockheed Martins eerste R&D-faciliteit buiten de VS.

Het werkt samen met instellingen voor hoger onderwijs via beurzen en stages. Daarnaast leiden samenwerkingen tussen de Defence Science Technology Group, wapenfabrikanten en universiteiten tot onderzoeksprojecten naar technologieën die verband houden met verschillende technologieën en componenten.

Het gebrek aan duidelijkheid in het Australische beleid is alarmerend gezien de versnelde ontwikkeling van onderzoek en ontwikkeling en de internationale samenwerking. Er moeten adequate wettelijke en ethische normen zijn om verantwoord te kunnen handelen.

Geen verdrag gewenst

Alle drie de AUKUS-partners behoren nog steeds tot het kleine groepje landen dat de noodzaak van een nieuw verdrag over autonome wapens afwijst. 

AUKUS-partners zouden baat hebben bij nieuwe internationale wetgeving die verboden en verplichtingen duidelijk vastlegt. Dit zou leiden tot gedeelde eisen die bepalen wat acceptabel is, in plaats van gezamenlijke initiatieven te ondernemen in een ongereguleerde omgeving met verschillende interpretaties van het internationale humanitaire recht.

De Australische strijdkrachten (ADF) en het Ministerie van Defensie gebruiken het ‘System of Control’-  raamwerk voor wapensystemen, dat geen rekening houdt met de eisen ten aanzien van menselijke controle bij het ontwerp en gebruik van wapens.

Ondanks het opstellen van een  ethische checklist voor AI binnen Defensie , is deze nog niet formeel aangenomen. De regering moet bovendien nog erkennen dat volledig autonome wapens die op mensen gericht zijn, moreel en juridisch onaanvaardbaar zijn.

Australië verzet zich tegen diplomatieke vooruitgang

Australië blijft zich verzetten tegen nieuwe regels voor autonome wapens, ondanks het feit dat er internationaal steeds meer steun is voor onderhandelingen over nieuw internationaal recht.

Landen hebben in het verleden al vaak verdragen gesloten over diverse wapens, waaronder chemische wapens, biologische wapens, landmijnen, clusterbommen en kernwapens.

In november  gaven 44 landen aan bereid te zijn  “over te gaan tot onderhandelingen” op basis van een “doorlopende tekst” die dit jaar door de “Groep van Regeringsdeskundigen” is ontwikkeld en besproken. 

Dit werd vermeld in een werkdocument voor een bijeenkomst van het Verdrag inzake bepaalde conventionele wapens (CCW), waar de Groep van Regeringsdeskundigen bijeenkomt, de speciale VN-bijeenkomsten voor de bespreking van autonome wapens.

Australië heeft herhaaldelijk zijn toewijding aan het werk van de Groep en het CCW-forum uitgesproken, maar heeft het document niet onderschreven. Dit gebeurde nadat Australië  in oktober in een verklaring tijdens de Algemene Vergadering van de VN had aangegeven  met andere landen te willen samenwerken om “de volgende stappen” voor de Groep te overwegen.  

De bewering van Australië dat het vooruitgang steunt, lijkt hol wanneer het land de groeiende oproepen en initiatieven die op onderhandelingen gericht zijn, direct afwijst. In november nam de Eerste Commissie van de Algemene Vergadering van de VN een  resolutie aan  over autonome wapens. Een belangrijk aspect van de resolutie was de steun voor het werk dat in het CCW (Comité voor het Verdrag inzake het Wapen van Autonome Wapens) wordt verricht om elementen van een instrument op te stellen met het oog op onderhandelingen. 156 landen stemden voor, waaronder Australië.

Australië maakte echter deel uit van een groep staten die  benadrukten  dat “alle toekomstige onderhandelingen moeten plaatsvinden binnen het kader van het Verdrag inzake bepaalde conventionele wapens (CCW) en dat er geen vooruitlopende conclusies mogen worden getrokken over de aard van de uitkomst ervan.” Desondanks steunt Australië geen stappen in het kader van het CCW om vervolgonderhandelingen met andere landen te voeren.

Tijdens de Algemene Vergadering van de VN drong Australië er ook op aan dat “het onze plechtige verantwoordelijkheid is om het internationaal humanitair recht te handhaven en te bevorderen”. Wat betreft het internationaal humanitair recht en autonome wapens stelt het Internationale Comité van het Rode Kruis dat nieuwe wettelijke regels nodig zijn om het recht te versterken, maar Australië verwerpt dit. Australië verzet zich herhaaldelijk tegen de noodzaak van specifieke verboden die menselijke controle vereisen, een standpunt dat slechts weinig landen delen.

Er was een toename in het aantal uitspraken over autonome wapens tijdens de Algemene Vergadering van de VN in 2025, zowel in debatten over veiligheid en ontwapening als in de algemene bijeenkomsten op hoog niveau. 

Australië daarentegen gaf slechts summier commentaar op autonome wapens en sprak alleen over het werk van de groep, maar niet over de kwestie zelf. Dit getuigt van een gebrek aan erkenning van de morele, juridische en humanitaire risico’s in zo’n cruciale tijd. 

In haar openingsverklaring over veiligheid en ontwapening  bevestigde Australië  dat het “zich inzet voor het verantwoord gebruik van  AI in het militaire domein” , zonder daarbij autonome wapens te noemen. Het was mede-indiener van de resolutie over dit onderwerp.

Verantwoord gebruik van AI in het militaire domein [REAIM] is een gebied dat door alle staten wordt erkend, maar dat nog niet verder is ontwikkeld dan algemene principes en geen rekening houdt met autonome wapens.

Landen die dit initiatief leiden zijn onder meer Nederland, Zuid-Korea en de VS, die in 2023 een politieke verklaring hebben opgesteld die door Australië is ondertekend. De internationale REAIM-top over verantwoord gebruik van AI in het leger vindt deze week plaats in Spanje.

Australië stelde ook dat “AI-technologieën gedurende hun hele levenscyclus moeten voldoen aan het internationaal recht, inclusief het humanitair recht en het internationale mensenrechtenrecht.” Desondanks verzet Australië zich tegen onderhandelingen over een nieuw juridisch instrument met betrekking tot autonome wapens.

Vooruitkijkend

De bereidheid om een ​​instrument voor autonome wapens op te zetten groeit wereldwijd, en 2026 is een belangrijk jaar, aangezien dan het mandaat van de Groep van Regeringsdeskundigen afloopt. 

De deelname van Australië zal uitwijzen of het standpunt van de regering overeenkomt met de morele en juridische positie die minister Wong heeft ingenomen.

Ook de ontwikkeling van capaciteiten en de samenwerking via AUKUS vordert gestaag. Er is echter steeds meer oppositie tegen AUKUS, zowel vanuit deskundige analyses als vanuit de publieke opinie, die zich zorgen maakt over de overeenkomst. 

Het valt nog te bezien of het Australische beleid, dat richting moet geven aan zowel binnenlandse ontwikkeling als internationale samenwerking, de morele grens zal vastleggen van het delegeren van beslissingen over leven en dood aan machines.

Matilda Byrne is als deeltijddocent verbonden aan de School of Global Urban and Social Studies van RMIT University en is de nationale coördinator van de Australia Stop Killer Robots-campagne, gevestigd bij SafeGround, een Australische non-profitorganisatie die zich inzet om de impact van bestaande en nieuwe wapens te verminderen. Ze is tevens co-voorzitter van het Australian Peace and Security Forum. Meer informatie is te vinden op @matildabyrne.