Sistemele autonome sunt integrate rapid pe câmpul de luptă, pe măsură ce modelele de inteligență artificială evoluează în moduri pe care nici creatorii lor nu le pot anticipa în întregime.
Războiul din Ucraina a devenit unul dintre principalele teatre de operațiuni pentru implementarea inteligenței artificiale în sistemele de luptă. În acest context, Ucraina a acordat Marii Britanii acces la baza militară Avengers AI Labs, unde datele de luptă sunt utilizate pentru antrenarea modelelor de AI. Algoritmii de AI permit identificarea mai rapidă a țintelor, ghidarea dronelor după pierderea legăturii și creșterea eficienței loviturilor, scrie ziarul Financial Times.
La prima vedere, drona Saker Scout seamănă cu miile de alte drone care patrulează cerul deasupra liniei frontului din Ucraina. Este o quadcoptoare neagră, dotată cu o cameră care permite unui pilot să o controleze de la distanță și să livreze o încărcătură explozivă de 5 kilograme – de obicei o grenadă sau un proiectil antitanc.
Dar sub carcasa din fibră de carbon se ascunde o placă electronică nu mai mare decât un card bancar, care ar putea reprezenta următorul pas în evoluția războiului. Software-ul său de învățare automată poate recunoaște 47 de categorii de echipamente militare, de la tancuri la infanterie, trasând contururi virtuale în jurul obiectelor și atribuindu-le scoruri de încredere procentuale.
Înainte de lansare, operatorul uman stabilește ce ținte contează cel mai mult, fixează pragul de încredere necesar pentru atac și definește o „zonă de eliminare”: o arie geografică în interiorul căreia orice este considerat țintă. Odată ajunsă în acea zonă, drona poate căuta, identifica și, dacă scorul său de încredere este suficient de ridicat, ataca fără să mai aștepte o altă comandă umană.
Există însă o limită esențială: mașina poate deosebi un tanc de un camion sau infanteria de artilerie, dar nu poate spune dacă ținta este ucraineană sau rusă. Sistemul se bazează, prin urmare, pe o prezumție de pe câmpul de luptă – tot ce este militar în interiorul „zonei de eliminare” aparține inamicului.
„Trebuie să fii sigur că nu sunt civili acolo și nici oamenii tăi”, spune Rostislav Olencin, de la compania ucraineană Twist Robotics, cea care a creat Saker Scout. „Este o armă foarte specială, folosită doar în anumite cazuri, de unități speciale.”
Inteligența artificială a schimbat modul în care se poartă războiul din Ucraina. La începutul conflictului, identificarea unei ținte și lansarea unui atac putea dura 20 de minute. Acum, procesul poate dura sub două minute, uneori doar câteva secunde.
Invazia rusă la scară largă în Ucraina a avut loc cu nouă luni înainte ca OpenAI să lanseze ChatGPT, moment esențial al revoluției inteligenței artificiale. Conflictul a devenit un teren de testare pentru utilizarea sistemelor AI în războiul cinetic, iar lecțiile desprinse de aici influențează nu doar strategia Ucrainei și a aliaților occidentali, ci și pe cea a Statelor Unite în conflictul cu Iranul.
Potrivit lui Olencin, accelerarea nu se datorează doar tehnologiei, ci și costurilor. Puterea de calcul necesară pentru a rula algoritmi sofisticați de recunoaștere vizuală poate fi cumpărată astăzi cu aproximativ 250 de dolari. Puterea de procesare a dronei Saker Scout este comparabilă cu cea a unei console PlayStation 4.
Dar războiul demonstrează și limitele inteligenței artificiale. Pe măsură ce tehnologia este integrată rapid în sistemele militare atât în Ucraina, cât și în Rusia, a devenit clar pentru strategi și pentru operatorii de pe front că, deși AI a accelerat procesul decizional și a făcut războiul mai letal, nu a oferit încă niciuneia dintre părți un avantaj decisiv.
Totuși, pe măsură ce modelele AI de ultimă generație ajung într-un punct în care evoluează mai repede decât pot fi controlate de oameni, liderii militari și politici vor trebui să se confrunte cu ceea ce se întâmplă atunci când aceste limite dispar, notează FT.
Rolul AI în război
Când vorbesc despre inteligența artificială, militarii nu se referă la un singur sistem, ci la software folosit în diferite etape ale războiului: colectarea și procesarea datelor, ajutarea comandanților să identifice și să prioritizeze ținte și menținerea funcționării dronelor atunci când comunicațiile sunt bruiate.
Software-ul bazat pe AI poate procesa „date la o scară și cu o viteză pe care ofițerii de stat major umani nu le pot atinge”, spune Anthony King, profesor de studii militare și director al Institutului pentru Strategie și Securitate al Universității Exeter. În opinia sa, funcția principală a AI nu a fost să schimbe partea acută a unui conflict, ci să îmbunătățească „conștientizarea situațională și informațiile”.
Tehnologia îi poate ajuta pe comandanți să facă predicții privind câmpul de luptă, de la sustenabilitatea unei campanii până la ritmul în care sunt consumate munițiile. Avantajul față de estimările umane, spune King, este că astfel de sisteme au pur și simplu „mai multe date de analizat”.
Acest lucru contează pentru că birourile de comandă moderne absorb cantități uriașe de informații: imagini din dronă, imagini din satelit, semnale electronice, rapoarte umane și date de la senzori răspândiți pe câmpul de luptă. Compararea tuturor acestor date este „foarte costisitoare în muncă”, spune Jack Watling, de la Royal United Services Institute, un think-tank britanic de apărare și securitate. Sisteme de management al câmpului de luptă precum Delta, folosit de Ucraina, sau Maven, folosit de SUA, transformă aceste fluxuri de date în informații utilizabile.
Un oficial din serviciile de informații americane i-a spus autoarei Katrina Manson, care a scris o carte despre Proiectul Maven, că sistemul a contribuit la creșterea numărului de ținte pe care forțele americane le puteau lovi de la sub 100 pe zi la 1.000, iar odată cu integrarea modelelor lingvistice de mari dimensiuni, până la 5.000.
Aceste sisteme permit, de asemenea, armatelor să comprime „lanțul de eliminare”, adică timpul scurs între identificarea unei ținte și executarea unui atac. „În termeni simpli, cu cât soldații pot face asta mai rapid și de la o distanță mai mare, cu atât vor avea un efect mai mare asupra inamicului”, se arată pe site-ul armatei britanice. Acest lucru permite armatelor să lovească primele și crește numărul țintelor viabile, în special al celor mobile.
Dacă strategii măsurau odinioară puterea militară prin numărul de trupe, avioane de luptă, tancuri și nave de luptă pe care le puteau desfășura, acum trebuie să se concentreze pe viteza și precizia sistemelor de procesare a datelor și pe modul de desfășurare la scară a armelor autonome.
Pe front, inteligența artificială este încă limitată în mare parte la sarcini restrânse: o dronă care se stabilizează în zbor sau care continuă spre țintă după ce legătura cu operatorul este bruiată.
Kateryna Bondar, cercetătoare la centrul de AI al Centrului pentru Studii Strategice și Internaționale, spune că navigația autonomă, preluată în mare parte din software-ul de curse cu drone, poate ajuta o dronă să se adapteze la vânt și să se blocheze pe o țintă la viteze de până la 300 km/h. Aceasta a redus timpul de instruire a piloților, în timp ce atacurile asistate de AI au de trei-patru ori mai multe șanse de reușită.
Ghidarea în faza terminală s-a dovedit deosebit de valoroasă în ultima etapă a unui atac, atunci când bruiajul întrerupe adesea legătura dintre pilot și dronă. „Se întâmplă des să pierzi controlul unei drone la 100 sau 200 de metri de țintă”, spune un comandant ucrainean. Odată ce pilotul se blochează pe țintă, drona poate continua apropierea finală chiar dacă semnalul se pierde.
Atacurile ghidate de AI sunt încă relativ rare, spune Oleksii Babenko, fondatorul producătorului ucrainean de drone Vyriy Drone, care aprovizionează armata. „Poate 2% din drone folosesc un anumit tip de inteligență artificială, astfel încât drona să înțeleagă ce este ținta și să o găsească singură… și totuși, 2% din cinci milioane de drone înseamnă mult.”
Ucraina susține că, de la începutul lui 2026, numărul atacurilor cu drone ghidate de AI a crescut de zece ori.
Există și fenomenul de „roi”, în care mașinile își împart sarcinile între ele. Asta poate însemna drone și roboți terestri care colaborează pentru a recupera un soldat rănit sau drone de atac care își împart țintele pentru a copleși un sistem de apărare. Roiurile autonome la scară largă rămân în mare parte experimentale, dar grupuri mici colaborează deja pe câmpul de luptă.
O companie care dezvoltă software de roi este Auterion, un start-up cu origini elvețiene. Directorul său general, Lorenz Meier, spune că forțele militare occidentale vor trebui să se bazeze din ce în ce mai mult pe roiuri în mare parte autonome, pentru că nu au instruit suficienți piloți de drone pentru a egala capacitățile ruse sau ucrainene.
„Pentru țările NATO, este o chestiune de viață și de moarte, pentru că nu pot forma astfel de unități de drone suficient de repede”, adaugă Meier. „Trebuie să meargă spre un grad mai ridicat de automatizare pentru a putea lupta eficient.”
Cercetările privind vizarea autonomă a dronelor rusești cu rază lungă de acțiune au devenit mai urgente după ce Moscova a început să trimită valuri de drone Shahed asupra orașelor ucrainene. Ca răspuns, companiile ucrainene au început să dezvolte interceptoare capabile să identifice și să atace aceste drone. Dronele Shahed au o formă distinctivă și zboară pe cer cu puține alte aeronave, ceea ce face posibilă antrenarea sistemelor AI să le recunoască.
Forțele ruse și-au extins, la rândul lor, folosirea dronelor echipate cu inteligență artificială în ultimul an. În iulie, o dronă rusă a folosit AI pentru a lovi o benzinărie fără ca decizia de atac să fie luată de un operator uman. Drona s-a prăbușit într-un zid și a explodat, ucigând trei persoane, ceea ce ar reprezenta primele decese documentate provocate de o dronă rusă cu autoțintire în Ucraina. În ultimele săptămâni, Rusia a folosit drone Shahed echipate cu sisteme de țintire AI pentru a lovi nave ucrainene în Marea Neagră.
În cele din urmă, Kievul speră să își ridice capacitățile AI la nivelul elaborării strategiei. Danilo Tsvok conduce un centru nou-înființat, însărcinat cu transformarea forțelor ucrainene într-o „armată condusă de AI”. El a descris o lume ipotetică în care un comandant ar putea spune unui agent AI intenția sa: „Vreau să apăr această poziție”, iar sistemul să elaboreze planuri de luptă pe baza propriilor recomandări. „Credem că ar putea schimba complet regulile jocului”, spune Tsvok.
Pentru mulți din Ucraina, care se luptă cu lipsa de personal pentru a continua să reziste Rusiei, există puține alternative. „Scopul este autonomia totală”, spune Maksim Savanevski, responsabil de marketing la The Fourth Law, companie ucraineană care a dezvoltat drone dotate cu sisteme de ghidare terminală. „Îl numim proiectul Manhattan al secolului XXI, pentru că va schimba dramatic câmpul de luptă.”
Dar, așa cum arată războiul din Ucraina, un impas este la fel de probabil ca o victorie. Olivier Schmitt, profesor și șef de cercetare la Institutul pentru Operațiuni Militare al Colegiului Regal de Apărare al Danemarcei, spune că există o „discrepanță între nivelul tactic, care se schimbă foarte rapid, și ritmul campaniei, care este practic blocat, pentru că nimeni nu reușește să realizeze o străpungere”.
Conflictul continuu dintre SUA și Iran arată că, până și atunci când vizarea funcționează eficient, aceasta poate să nu aducă victoria. Iranul este „un studiu de caz de manual” pentru acest lucru, spune Franz-Stefan Gady, analist de apărare la Institutul Internațional de Studii Strategice.
Ideea este că „vom lovi toate aceste ținte mai repede și mai rapid decât adversarul și apoi sperăm că, la un moment dat, inamicul se va prăbuși. Se observă că, de fapt, nu există un plan B dacă lucrurile nu merg așa.” Schmitt adaugă că SUA „au fost foarte bune la vizare, iar sistemul militar [iranian] nu s-a prăbușit”.
„AI te va ajuta să realizezi ceea ce vrei să realizezi”, spune Schmitt. „Asta nu înseamnă că ceea ce vrei să realizezi te va face să câștigi războiul.”
Lipsa răspunderii
Conceptul de „armată condusă de AI” este profund îngrijorător pentru unii experți, care subliniază că pe câmpurile de luptă rareori există situații clare, alb-negru, în care deciziile pot fi luate cu certitudine.
Paddy Walker, expert în etica AI, spune că războiul modern este caracterizat de o ambiguitate greu de codificat sau de predat unui model lingvistic. „Zona hibridă, zona gri, acestea sunt câmpuri de luptă mult mai complicate… trebuie să procesezi contextul.”
Instrumentele AI pot ajuta la identificarea dronelor Shahed, dar eficiența lor are limite. Artem Martinenko, locotenent-colonel în armata ucraineană și unul dintre arhitecții inițiali ai sistemului Delta, spune că „detectarea autonomă și precisă a unui soldat rămâne o problemă”, cu atât mai mult distincția privind naționalitatea sau statutul acestuia. Problema este agravată de un câmp de luptă în care pozițiile sunt adesea amestecate, iar camuflajul este esențial pentru supraviețuire.
Heidy Khlaaf, cercetătoare-șefă în domeniul AI la AI Now Institute, un institut independent de cercetare, spune că astfel de sisteme întâmpină dificultăți cu „îmbrăcămintea de tip uniformă”, vehiculele, armele și mișcarea, pentru că acestea intră într-un spațiu „mai larg și mai puțin previzibil”. Chiar și lumina poate face ca o mașină să confunde un vehicul civil cu unul militar.
Camuflajul de tip „dazzle”, cu model zebrat alb-negru, este folosit pe vehicule în Ucraina tocmai pentru a deruta dronele echipate cu sisteme de recunoaștere vizuală bazate pe AI.
„Regulamentul spune că trebuie mereu să existe un om care ia decizia”, spune un fost angajat al Palantir, compania care a construit Maven, veteran al programului american de război cu drone. „Problema este că sistemul îți scoate o listă de 1.000 de ținte. Iar tu nu te miști suficient de repede. Problema este că omul devine blocajul. Iar analistului respectiv nu îi pasă mereu. Vrea să plece acasă sau să-și ia un cheeseburger.”
Cu cât astfel de sisteme sunt folosite mai mult pentru a găsi și clasifica ținte, cu atât devin mai vizibile limitele lor. Informațiile pe care le folosesc pot fi fragmentare, învechite și ambigue. Chiar și datele curate, precum imaginile de la o dronă, pot fi incomplete, afectate de defecțiuni ale senzorilor sau de interferențe de mediu, ori etichetate greșit, spune Khlaaf, care studiază siguranța armelor autonome.
Riscul a fost ilustrat anul acesta în Iran. Sistemele de vizare asistate de AI au permis Statelor Unite să lovească 13.000 de ținte în primele 38 de zile ale conflictului. Printre acestea s-a numărat și o școală de fete, unde au murit peste 150 de persoane, dintre care 120 de copii. Clădirea făcuse parte dintr-un complex militar, dar, potrivit oficialilor locali, o intrare separată și un zid fuseseră construite în jurul anului 2016, atunci când școala a fost înființată.
King, de la Universitatea Exeter, spune că atacul a arătat pericolul sistemelor „bazate pe corelații statistice”: dacă informațiile introduse în ele sunt greșite sau învechite, rezultatul poate fi catastrofal. Erorile de vizare nu sunt un fenomen nou, dar viteza și amploarea mai mari pot crește riscul de greșeli.
Cu cât un sistem poate identifica sau recomanda ținte mai rapid, cu atât mai puțin timp le rămâne oamenilor pentru a le verifica. „Dacă incluzi presupuneri greșite, fie că sunt ale AI, fie umane, atunci, desigur, asta poate accelera rata erorilor”, spune Watling, de la Royal United Services Institute.
Procesul de generare a țintelor asistat de AI, folosit în campania de bombardamente a Israelului în Gaza, a ridicat, de asemenea, întrebări etice. A existat o „presiune politică de sus în jos pentru a lovi multe ținte, pentru a demonstra forță”, spune Schmitt, de la Colegiul Regal de Apărare al Danemarcei. Asta a însemnat că, într-un context militar, „ofițerii aveau între 15 și 20 de secunde pentru a evalua dacă o țintă era legitimă sau nu”.
În aceste condiții de timp, „este greu de înțeles cum ar fi posibil să te asiguri că ținta pe care o ai în cătare este o țintă militară legitimă, așa cum cere legea”, spune Jessica Dorsey, profesor asistent de drept internațional la Universitatea Utrecht.
Miza crește atunci când ținta este un om, nu doar clădiri sau infrastructură. Potrivit dreptului internațional umanitar, posibilitatea de a viza o persoană depinde de statutul, acțiunile și circumstanțele acesteia, ceea ce presupune evaluări juridice pe care calculatoarele nu le pot face. Statutul unui soldat se poate schimba rapid, de exemplu dacă se predă sau este rănit.
Schmitt spune că modul în care Israelul a desfășurat campania din Gaza arată nu doar cum funcționează tehnologia, ci și „cum mediul social și politic exercită presiune asupra oamenilor pentru ca aceștia să folosească tehnologia într-un anumit fel”. Dacă liderii politici cer rezultate, iar ofițerii au doar câteva secunde pentru a evalua o țintă, spune el, aceștia sunt mai predispuși să accepte recomandarea primită.
Rămâne, de asemenea, o înțelegere limitată a modului în care astfel de sisteme ajung la concluziile lor. Departamentul de Stat american afirmă că sistemele autonome trebuie să fie „transparente și verificabile de către personalul de apărare relevant”. Palantir spune că instrumentele sale permit operatorilor să urmărească firul datelor și documentelor care au condus la o anumită sugestie.
Dar posibilitatea de a verifica datele nu este același lucru cu a înțelege de ce un model lingvistic de mari dimensiuni a recomandat un anumit curs de acțiune.
În ceea ce privește sistemele de sprijin decizional bazate pe AI, spune Khlaaf, „nu avem nicio modalitate de a investiga de ce a fost luată o anumită decizie”. Aceste modele „automatizează implicit ceea ce, în mod tradițional, ar fi fost considerate mai multe puncte decizionale distincte în lanțul de eliminare”. Palantir spune că a construit sisteme care le permit modelelor lor lingvistice să folosească instrumente și să opereze pas cu pas, ceea ce face deciziile modelelor mai ușor de verificat.
Dacă un sistem autonom ucide persoanele greșite, poate fi, de asemenea, dificil de stabilit dacă eșecul se datorează unor date eronate, unor defecțiuni tehnice sau unei erori umane. Există riscul ca această complexitate să ducă la tendința de a eticheta incidentele drept accidente sau de a arunca vina pe utilizatorii individuali, mai degrabă decât pe statul care a construit sistemul, notează FT.
Madeleine Elish, cercetătoare la Google DeepMind, numește acest fenomen „zona de zdrobire morală” sau momentul în care un operator uman, cu un control limitat asupra unui sistem automatizat, suportă greul responsabilității atunci când acesta eșuează.
Din punct de vedere legal, însă, răspunderea rămâne la comandanții de pe câmpul de luptă. „Oamenii sunt cei responsabili pentru modul în care se poartă războiul”, spune Dorsey.
Ce înseamnă asta pentru război
Integrarea rapidă a inteligenței artificiale în război are loc chiar în momentul în care aceste modele devin din ce în ce mai avansate, în moduri pe care nici creatorii lor nu le pot anticipa în întregime.
Recentul incident în care un grup de agenți AI ai OpenAI a reușit să iasă dintr-un mediu de testare și să pătrundă în sistemele dezvoltatorului de inteligență artificială Hugging Face a arătat că modelele de ultimă generație pot depăși încercările de a le limita comportamentul. Unii cercetători cred că așa-numita auto-îmbunătățire recursivă – capacitatea modelelor de a-și construi succesorii – ar putea permite progrese la o viteză și o intensitate încă neanticipate.
Anthropic susține că modelele sale cele mai avansate nu sunt suficient de fiabile pentru a selecta și ataca ținte în mod autonom. Încercările companiei de a limita utilizarea militară a inteligenței artificiale au pus-o în conflict cu Pentagonul.
În același timp, raportul companiei privind amenințările, publicat luna aceasta, a constatat că actori nestatali au folosit Claude pentru a dezvolta arme, inclusiv un roi de drone autonome conceput să selecteze ținte umane și să detoneze fără intervenție umană. Raportul a documentat utilizarea abuzivă a Claude de către actori din întreaga lume, din China, Rusia, Ucraina și Iran, până în Yemen, Sudan și Taiwan.
În curând, întrebarea nu va mai fi cât de departe sunt dispuse armatele să meargă în integrarea AI în lanțul de eliminare, ci dacă guvernele și companiile de inteligență artificială vor mai putea stabili vreo limită, conchide Financial Times.
