AI underlättar militär planering men granskningen brister

AI-stöd kan minska arbetsbördan vid militär planering, men leder inte nödvändigtvis till bättre operationsplaner. Det visar en ny rapport om hur specialistofficerare använder AI under en planeringsövning.

Under övningen Operation Stormbreaker fick två arbetsgrupper planera en militär operation med samma uppgift, tidsplan och dokumentunderlag. Skillnaden var att den ena gruppen hade tillgång till ett AI-system som kunde söka i och sammanfatta övningens cirka 1 800 dokument.

Resultaten pekar på både möjligheter och brister. Gruppen med AI-stöd tog fram en uppdragsanalys av jämförbar kvalitet och rapporterade mer än en tredjedel lägre frustration. Samtidigt fördes påhittade uppgifter från AI-systemet in i planeringsprodukten utan att de ifrågasattes.

– Vår samlade slutsats är att tekniken är värd att införa, men att mänsklig granskning måste övas och göras obligatorisk, säger Linnéa Gelot, professor i krigsvetenskap vid Försvarshögskolan och en av rapportens författare.

Trovärdiga svar saknade stöd i källorna

AI-stödet förändrade vilken typ av brister som uppstod, snarare än antalet. I den AI-stödda gruppens uppdragsanalys identifierade forskarna tre brister. Det handlade om ett påhittat slutmål för Nato, en påhittad begränsning av bekämpning av ledarskapsmål och ett operationsområde som omfattade ett neutralt tredjelands territorium. Samtliga uppgifter var välformulerade och försedda med källhänvisningar, men saknade stöd i källdokumenten. Ingen av dessa brister ifrågasattes av övningsdeltagarna. I gruppen utan AI-stöd bestod bristerna i stället av felaktiga återgivningar av korrekt källtext.

Få frågor användes för att kontrollera svaren

Forskarna granskade också de 732 frågor som deltagarna ställde till AI-systemet. Endast 3,6 procent syftade till att kontrollera ett svar. Av de 19 användarna gjorde 13 aldrig någon sådan kontroll. Samtidigt uppfattade deltagarna själva att de hade granskat svaren.

Studien visar att granskning kan fånga upp påhittade uppgifter. När en deltagare ifrågasatte ett svar drog systemet tillbaka uppgifterna, och de fördes aldrig in i planen. Men forskarna såg också att tidspress kunde leda till att upptäckta brister ändå kom med.

– Tekniska tester kan visa vad ett system klarar av, men när systemet väl används i en stab avgörs säkerheten till stor del av hur människorna använder det, säger Linnéa Gelot.

Kontroll behöver bli en del av processen

Rapporten föreslår 18 konkreta kontrollåtgärder som kräver små resurser. Ett exempel är att två personer ska kontrollera AI-genererat innehåll innan det förs in i särskilt kritiska delar av planen, som slutmål, begränsningar, operationsområde och insatsregler.

Andra förslag är att utse en granskare med uppgift att ifrågasätta innehållet och att fastställa vilka källor som ska vara styrande. Systemen behöver också tydligare skilja mellan hämtad källtext och AI-genererad text samt markera innehåll som saknar stöd i källorna.

Åtgärderna kan byggas in i befintliga arbetsrutiner och använda en del av den tid som AI-stödet frigör. Rapporten lyfter även behovet av att öva granskning i professionell militär utbildning.

– Rapporten bidrar med empiriskt underlag om AI-säkerhet i praktiken: hur påhittade uppgifter uppstår, varför de passerar obemärkt och vad som krävs för att fånga dem, säger rapportens medförfattare Ludwig Gelot, doktor i internationell politik och scenarioansvarig vid Ledningsstridsskolan i Enköping.

Övningen genomfördes vid Militärhögskolan Halmstad den 11–14 maj 2026 och följde Natos planeringsprocess. Totalt deltog 40 personer, fördelade på två grupper. Eftersom studien omfattar två grupper och en planeringsprodukt per grupp ska resultaten ses som indikativa. De ligger dock i linje med tidigare forskning om människors benägenhet att lita på automatiserade system.