Pentagon Amerikaans leger zegt dat het doelen sneller kan opsporen met ‘geavanceerde AI’

Het Pentagon werkt eraan om AI in alles te integreren en heeft onderzoekers een statusupdate gegeven.

Pentagon  Het Amerikaanse leger vertelde de regering dat het veel succes had gehad met het gebruik van AI om “doelen te verwerken” tijdens een recente inzet. Het zei dat het AI-systemen had gebruikt om doelen te identificeren met een snelheid van 55 per dag, maar dat het dat aantal in de toekomst zou kunnen opvoeren tot 5000 per dag met “geavanceerde kunstmatige intelligentie”.

Deze bewering komt uit een nieuw rapport van de Government Accountability Office – een onafhankelijke waakhondorganisatie die onderzoek doet naar de federale overheid. Het rapport heet “Defense Command and Control” en gaat deels over de recente inspanningen van het Pentagon om AI-systemen in zijn workflow te integreren. 

Binnen de overheid, en met name binnen het leger, is er een drang om AI toe te voegen aan of te integreren in verschillende systemen. De redenering hier is dat AI-systemen het Pentagon zouden helpen bij het identificeren van doelen op het slagveld en dat die systemen zouden helpen bepalen wie leeft en wie sterft. Het Oekraïense en Israëlische leger gebruiken al vergelijkbare systemen, maar de praktijk is beladen en controversieel.

AI-systemen hallucineren en maken onjuiste vaststellingen. Gezichtsherkenningssoftware stuurt vaak vals-positieve resultaten en in oorlogstijd kan dat het verschil betekenen tussen leven en dood. Dit is een van de scenario’s waar mensen die waarschuwen voor de komst van ” killerrobots ” zich zorgen over maken.

In de VS hebben pogingen om AI in het leger te integreren gemengde resultaten opgeleverd. Maar de Generale Dienst (GAO) verwees naar een interview met functionarissen van het XVIII Airborne Corps als voorbeeld van succes. XVIII is een groot korps met divisies die oorlogen voeren, maar ook inlichtingen verzamelen, rampenbestrijding uitvoeren en speciale operaties ondersteunen. De 101st Airborne, bekend van Band of Brothers , is een van hun divisies.

Een van XVIII’s lopende projecten is een terugkerende oefening genaamd “Scarlet Dragon”. Het doel van Scarlet Dragon is om het gebruik van AI en andere datagedreven systemen door het leger te verbeteren. Het is een militaire hackathon waarbij soldaten software ontwikkelen en gebruiken en de code schrijven die ze hopen te gebruiken in de oorlogen van morgen. Tijdens een evenement in 2020 ontwikkelde XVIII een AI-gestuurde softwaresuite die de Missile Defense Agency nu gebruikt om doelen uit de lucht te selecteren . Vroeger duurde dat 12 uur. Nu beweren ze dat ze het in minder dan een minuut doen. 

Volgens het rapport van de GAO stelden XVIII-functionarissen dat geavanceerde AI-systemen essentieel zijn voor de toekomst van het Pentagon. “Scarlet Dragon… heeft positieve meetbare resultaten opgeleverd, met name op het gebied van doelidentificatie en -validatie en software-efficiëntie”, aldus het rapport.

“Ambtenaren van de XVIII Airborne meldden dat ze tijdens een recente inzet 62 software-updates hebben ontwikkeld in een periode van 10 maanden, wat resulteerde in een verbetering van 600 procent in de software-efficiëntie”, aldus het rapport. “Bovendien verwerkten leden van het targetingteam van het XVIII Airborne Corps 55 doelen per dag ter ondersteuning van een noodoperatie, maar functionarissen vertelden ons dat ze denken dat dit aantal in de toekomst zou kunnen oplopen tot 5.000 doelen per dag met behulp van geavanceerde kunstmatige intelligentie.”

“Noodoperatie” kan van alles betekenen, van rampenbestrijding tot terrorismebestrijding. Het rapport gaf geen details over de inzet of specifieke noodoperatie waarbij XVIII zijn AI-systemen ontwikkelde en XVIII vertelde 404 Media dat “operationele veiligheidszorgen” het onmogelijk maakten om te antwoorden. De leden van XVIII brachten echter een paar jaar geleden negen maanden in Europa door met het trainen en uitrusten van Oekraïense soldaten . Het maakte ook deel uit van de noodhulpinspanningen nadat orkaan Helene de Carolina’s had getroffen.

Het gebruik van AI voor “doelidentificatie en -validatie” is vergelijkbaar met hoe de Israëlische strijdkrachten Azure AI van Microsoft gebruiken in hun oorlogen in Libanon en Gaza . Volgens berichtgeving van Associated Press voert de IDF data in de cloudsystemen van Microsoft in en gebruikt deze om data te verwerken en doelen in het veld te selecteren. Palantir doet iets soortgelijks in Oekraïne . Het GAO-rapport specificeerde niet welke AI-softwaresystemen XVIII gebruikten.

De systemen zijn niet feilloos. AP beschreef gedetailleerd hoe een AI-systeem in Israël het Arabische woord “betaling” verkeerd vertaalde als het woord voor de greep van een RPG en iemand aan een doelwitlijst toevoegde. In dat specifieke geval merkte een inlichtingenofficier de fout van de AI op. Maar mensen vangen niet elke fout op en het Israëlische leger verklaarde dat het AI heeft gebruikt bij elke aanval die het de afgelopen drie jaar heeft uitgevoerd. Bij die aanvallen zijn tienduizenden onschuldige mensen om het leven gekomen, waaronder kinderen. Een rapport van 972 Magazine beschrijft hoe de AI-targetingsystemen van het Israëlische leger het leger in staat stelden om bombardementen waarvan ze wisten dat ze burgerslachtoffers zouden maken, te versnellen en goed te keuren. 

Het GAO-rapport maakt deel uit van een onderzoek naar een initiatief van het Pentagon uit 2019, genaamd Combined Joint All-Domain Command and Control (CJADC2). Het doel van het project is om de besluitvorming te versnellen door soldaten en leiders sneller van informatie te voorzien. Het GAO-rapport gebruikte een draaistoel als metafoor voor wat CJADC2 probeert te bereiken.

In het huidige systeem is het Pentagon als een soldaat die aan een bureau met drie zijden zit. Er staan ​​vijf monitoren op het bureau, verbonden met vijf afzonderlijke computers. Om het leger te runnen, schommelt het Pentagon constant heen en weer in de draaistoel. In de toekomst wil het de stoel voor één monitor plaatsen die alle informatie doorgeeft, figuurlijk gesproken.

Volgens de GAO zijn de resultaten van het initiatief gemengd. Oorspronkelijk werd het gepresenteerd met de zin “elke sensor voor elke schutter”, wat betekende dat iedereen die een wapen richtte toegang zou hebben tot alle gegevens in het Pentagon. “Een hoge functionaris van de luchtmacht met wie we spraken, merkte op dat dit idee nu grotendeels als onrealistisch en nutteloos wordt beschouwd”, aldus het GAO-rapport.

Deze drang om alle enorme datasystemen binnen de enorme bureaucratie van het Pentagon te integreren, is al een paar jaar een topprioriteit. Voormalig onderminister van Defensie Kathleen Hicks sprak vorig jaar in een toespraak over CJADC2 . Ze zei dat de eerste versie van het systeem klaar was en dat het “de schoonheid vertegenwoordigde van wat software voor harde macht kan betekenen”.

Hicks zette het Congres in zijn toespraak onder druk om het Pentagon de middelen te geven om al zijn AI-systemen te promoten. Ook de huidige minister van Defensie, Pete Hegseth, is volledig gefocust op AI-systemen. In een schriftelijke getuigenis voor de Senaatscommissie voor Defensie tijdens zijn hoorzitting benadrukte Hegseth het belang van AI voor het Amerikaanse leger. “We moeten de beste talenten identificeren, rekruteren en versterken, en onze informatie effectief beheren, mogelijk gemaakt door moderne tools zoals AI/ML en data-analyse”, schreef hij.

Zowel Hicks als Hegseth benadrukten de noodzaak om China voor te blijven op het gebied van AI. “Kunstmatige intelligentie (AI) is een krachtige reeks mogelijkheden die we moeten benutten, omdat we weten dat onze tegenstanders, met name China, in dergelijke mogelijkheden hebben geïnvesteerd. Kunstmatige intelligentie (AI) in de Amerikaanse commerciële sector is de meest geavanceerde ter wereld en we moeten dit benutten als basis voor de specifieke behoeften van het Ministerie van Defensie”, aldus Hegseth in zijn schriftelijke getuigenis.

Maandag kondigden Hegseth en Trump aan dat het volgende Pentagon-budget het hoogste in de geschiedenis van de VS zal zijn : 1 biljoen dollar.