AI:s hemliga militär

USA erbjuder relativt mycket offentlig dokumentation, men även där är insynen ojämn. DARPA:s Air Combat Evolution visar forskningens ambition. Project Maven visar hur bildanalys flyttats mot operativ användning. Ingetdera ger en fullständig bild av hur systemen presterar under verklig strid.

USA:s försvarsdepartement uppdaterade 2023 direktivet 3000.09 om autonomi i vapensystem. Det kräver bland annat att systemen utformas så att befäl och operatörer kan utöva lämpliga nivåer av mänskligt omdöme över användningen av våld. Direktivet är däremot inte ett generellt förbud mot autonoma vapen eller ett universellt krav på mänskligt godkännande av varje enskild insats.

Kinas ambition är också offentlig. Strategin för militär-civil integration och satsningar på ”intelligentiserad” krigföring syftar till att föra in AI och närliggande teknik i militär förmåga. CRS har beskrivit kinesiska satsningar på bland annat autonoma system och beslutsstöd.

Det belägger riktningen, inte att Kina har uppnått en viss hemlig prestandanivå. Uppvisningar av drönarsvärmar kan demonstrera samordning, men säger mindre om hur systemen fungerar mot kvalificerad störning eller oväntade hot. Officiella budskap bör läsas både som information och som strategisk kommunikation.

Även Ryssland har satsat på AI och autonomi. CNA:s genomgång av rysk utveckling beskriver forskningsmiljöer och militära ambitioner, men också hur svårt det är att skilja planerade funktioner från mogen förmåga. Robotiserad utrustning är inte nödvändigtvis självständig: fjärrstyrning och förprogrammerade förlopp kan presenteras med samma framtidspräglade språk som avancerad AI.

Här behövs samma beviskrav för alla stater. Ett pressmeddelande är belägg för att en organisation gör ett påstående. Det är inte en oberoende utvärdering av påståendet. Och ett vapen som används i krig är inte därmed bevisligen autonomt i sitt målval.

Kapprustningen gäller alltså både faktiska system och föreställningar om motståndarens försprång. Överdrivna hotbilder kan driva fram snabbare införande av teknik som ännu inte prövats tillräckligt.

I april 2024 publicerade +972 Magazine och Local Call en granskning av det israeliska systemet Lavender. Reportaget byggde på uppgifter från sex israeliska underrättelsepersoner och beskrev hur AI-baserad analys användes för att identifiera misstänkta medlemmar i Hamas och Palestinska islamiska jihad.

Enligt granskningen fick systemets rekommendationer stort praktiskt inflytande och mänsklig kontroll kunde vara mycket kortfattad. Det är allvarliga uppgifter, men deras bevisstatus måste vara tydlig: centrala detaljer kommer från anonyma källor, inte från en öppet tillgänglig teknisk revision.

Den israeliska militären bestred beskrivningen. I sitt svar, återgivet av tidningen, uppgav den att informationssystem inte självständigt identifierar terrorister eller avgör om någon är ett mål. Militären beskrev det omtalade verktyget som en databas för att korsreferera underrättelseuppgifter och sade att analytiker måste genomföra oberoende granskning.

Det offentliga materialet avgör inte alla motsägelser. Därför bör granskningens uppgifter varken återges som fullt verifierad systemdokumentation eller avfärdas enbart för att myndigheten bestrider dem.

Fallet visar en bredare risk: mänsklig närvaro i beslutskedjan är inte samma sak som meningsfull kontroll. En analytiker kan formellt godkänna ett förslag men sakna tid, information eller organisatoriskt stöd för att ifrågasätta det. Då kan maskinens prioritering i praktiken styra utfallet.

AI kan också förbättra kontrollen, exempelvis genom att upptäcka motsägelser eller flagga risk för civila. Det är ett viktigt argument från förespråkarna. Men en möjlig förbättring är inte ett belagt resultat. Den måste visas genom relevanta tester och granskning av hur systemet faktiskt används.

Rättvisefrågan börjar dessutom före ett eventuellt anfall: vilka människors kommunikation samlas in, vilka beteenden markeras som misstänkta och hur kan en felaktig identifiering rättas? Den som hamnar i en militär databas har sällan samma möjligheter att invända som en konsument som nekats ett banklån.

Gränsen mellan militär och civil AI går numera rakt genom teknikindustrin. Googles medverkan i Project Maven utlöste anställdas protester 2018. Samma år publicerade företaget AI-principer som bland annat uteslöt vissa vapentillämpningar. Det var en dåtida policy, inte ett bevis för att all militär användning av företagets teknik upphörde.

I augusti 2024 offentliggjorde Palantir och Microsoft ett samarbete för analys- och AI-tjänster i amerikanska försvars- och underrättelsemiljöer, inklusive hemliga nätverk. Meddelandet beskrev tillgång till språkmodeller genom Azure OpenAI Service i särskilda molnmiljöer. Det belägger ett kommersiellt och tekniskt samarbete, inte att en viss modell självständigt fattar beslut om vapeninsatser.

Försvarare av samarbetena framhåller att demokratiska staters försvar behöver modern teknik och att bättre analys kan skydda både soldater och civila. Kritiker pekar på leverantörsberoende, massövervakning och risken att tekniska verktyg sänker tröskeln för våld. Båda perspektiven kräver konkretion: vilken funktion levereras, vem bestämmer användningen och vem kan stoppa den?

Internationella rödakorskommittén har efterlyst bindande regler för autonoma vapensystem, med förbud mot oförutsägbara system och system utformade eller använda för att rikta våld mot människor. Dess ståndpunkt är ett förslag till starkare begränsningar, inte en beskrivning av ett redan globalt accepterat förbud.

Meningsfull demokratisk kontroll behöver inte innebära att militärer publicerar sårbarheter eller operationsplaner. Den kan kräva dokumenterade tester, loggar som möjliggör efterhandsgranskning, oberoende tillsyn med säkerhetsbehörighet och tydligt ansvar när något går fel. Felmarginaler bör redovisas för relevanta förhållanden, inte bara som ett imponerande genomsnitt.

Finns det alltså militär AI som ligger före det öppna? Sannolikt inom vissa smala tillämpningar, särskilt där hemliga sensordata och integration är avgörande. Hur stort försprånget är går ofta inte att verifiera. Att detta skulle innebära en dold generell superintelligens är däremot spekulation.

Det mest betydelsefulla försprånget kan vara organisatoriskt: förmågan att föra information från sensor till beslut snabbare än motståndaren. Där ligger också faran. När maskinen gör beslutsunderlaget snabbare kan tiden för mänskligt tvivel krympa – utan att osäkerheten har gjort det.