Rusia care „falimentează” a introdus războiul viitorului în Ucraina: Dronă militară, controlată total de inteligența artificială

O dronă rusească ghidată în întregime de un sistem experimental de inteligență artificială (IA) a ucis trei civili în Zaporojie, potrivit unui articol din The New York Times (NYT). Drone rusești au atacat o benzinărie pe 6 iulie, ucigând un student de 19 ani și doi bărbați, cu vârste între 41 și 48 de ani. Relatarea NYT se bazează pe concluziile experților ucraineni în drone, oficiali militari și anchetatori criminaliști, care au examinat epava acelei drone și a altor drone rusești Molniya care au lovit Zaporizhzhia.

Dronele nu aveau antene pentru a comunica cu un operator, deși purtau camere video. Drona care a explodat și i-a ucis pe cei trei zbura într-un grup de aproximativ șase. Niciuna din ele nu transmitea semnale radio. Dronele au fost lansate spre Zaporojie în valuri, fiind urmate de un atac de amploare. În interiorul dronelor, anchetatorii au găsit minicalculatoare Nvidia, Jetson Orin. Nvidia produce o mare parte din cipurile care alimentează cele mai avansate sisteme AI din lume. Minicalculatoarele, care au costat doar câteva sute de dolari, se crede că au fost cele care au luat deciziile privind țintirea. Minicalculatoare similare au apărut în alte arme rusești. Oficialii ucraineni au declarat că minicomputerul Nvidia din drona care a lovit Zaporojie nu era criptat, permițând experților să vizualizeze imaginile terenului încărcate în modul. Drona ar putea folosi acele imagini pentru a rămâne pe traiectoria programată. Experții au examinat, de asemenea, codul dronei, care, au spus ei, arăta ce tipuri de ținte fusese antrenată să recunoască și să atace.

Se crede că dronele funcționează astfel: un operator programează o dronă să zboare spre o țintă specifică, cum ar fi o benzinărie; pe măsură ce se apropie, drona își alege ținta finală — de exemplu, rezervoarele de propan — pe cont propriu, bazându-se pe antrenamente anterioare pentru a recunoaște astfel de containere. Oficialii ucraineni au declarat că unele dintre dronele rusești echipate cu IA au explodat în timpul atacului, în timp ce altele nu au explodat și au rămas în mare parte intacte.Aceștia le-au arătat reporterilor NYT resturile a două astfel de drone, iar reporterii au fotografiat modulul Nvidia din interiorul fiecăreia. Epava dronei care i-a ucis pe cei trei civili nu apare în articolul NYT. Ucraina găsise resturi similare — fără antenă, dar cu o cameră și un minicomputer — chiar înainte de atacul din 6 iulie.

Atât Rusia, cât și Ucraina experimentează cu AI în mai multe modele de drone. De ce e important? Până acum, viziunea artificială a fost folosită la scară largă doar în etapa finală a unui atac, blocând /eliminând automat o țintă, după ce operatorul (n.r.: omul) a ales-o deja. Inteligența artificială complet autonomă este menită să elimine omul/pilotul dronei din acea decizie finală de țintire. Ucraina a declarat că Rusia testează drone AI autonome în Zaporojie din mai. În Crimeea anexată de Rusia, forțele armate ale Ucrainei efectuează propriile teste ale sistemelor AI care selectează ținte independent, a declarat fostul ministru al apărării Mykhailo Fedorov. Până acum nu au fost raportate decese în urma acestor atacuri.

Şefii ONU şi Comitetului Internaţional al Crucii Roşii (CICR) au alertat marţi asupra riscului ca dezvoltarea armelor autonome să conducă foarte curând „la încălcarea unei linii roşii morale”, lăsând unor maşini decizia de a ucide fiinţe umane, relatează AFP, informează Agerpres.În 2023, secretarul general al ONU, Antonio Guterres, şi preşedinta Comitetului Internaţional al Crucii Roşii (CICR), Mirjana Spoljaric Egger, au lansat un apel comun la state să impună interdicţii acestor sisteme de arme autonome cel mai târziu în 2026. Apelul lor a rămas însă fără urmări.”Reînnoim acest apel cu o urgenţă încă şi mai mare. Preocupările fundamentale rămân neschimbate, dar riscurile s-au intensificat. Suntem acum periculos de aproape de a încălca o linie roşie morală: ţintirea autonomă a fiinţelor umane de către maşini”, indică ei într-un nou apel.

„Falia între capacităţile tehnologice şi constrângerile de reglementare s-a adâncit, tehnologiile de vârf utilizate pe câmpurile de luptă amplificând riscul de a provoca pagube civililor şi infrastructurilor civile şi agravând suferinţele populaţiei civile în conflicte armate”, afirmă semnatarii.

Armele autonome sunt în general definite drept arme capabile să-şi selecţioneze ţintele şi să utilizeze forţa fără intervenţie umană.”Aceste sisteme sunt deja utilizate pe câmpul de luptă şi în contexte mai ample, ceea ce creşte riscul de pierderi civile”, a explicat Laurent Gisel, care conduce unitatea de arme şi desfăşurare a ostilităţilor din cadrul CICR, cu prilejul unui briefing de presă de la Geneva.

Potrivit experţilor, nicio utilizare de arme deplin autonome care să vizeze direct persoane nu a fost înregistrată până în prezent (n.r: experții nu luau în calcul dezvăluirea NYT, venită la câteva zile după). Dar acest scenariu provoacă vii îngrijorări la ONU şi CICR.”Oamenii de ştiinţă şi inginerii care elaborează aceste sisteme trag semnalul de alarmă. Din moment ce înşişi arhitecţii acestei tehnologii cer limite, statele nu pot să-şi permită să rămână pasive”, estimează şefii ONU şi CCR, avertizând că „acest an trebuie să marcheze un moment de cotitură”.

În cadrul Convenţiei privind anumite categorii de arme clasice (CCW), un grup de experţi guvernamentali lucrează de ani de zile la armele autonome şi la regulile internaţionale care ar putea reglementa dezvoltarea şi utilizarea lor.Grupul îşi va încheia mandatul de trei ani săptămâna viitoare, cu speranţa de a adopta un document consensual. La conferinţa CCW din noiembrie, statele vor putea decide ce vor face în această chestiune, respectiv dacă vor declanşa sau nu negocieri pentru a elabora reguli.Şefii ONU şi CICR fac apel la state „să dea dovadă de curaj politic” şi să lanseze încă de acum negocieri „pentru a adopta de urgenţă un instrument juridic constrângător vizând reglementarea sistemelor de arme autonome prin intermediul interdicţiilor şi a unor restricţii clare”, adăugând că „a nu acţiona rapid şi de manieră decisivă va costa vieţi”.Laurent Gisel a precizat că CICR nu cere interdicţia în ansamblu a sistemelor de arme autonome, ci interdicţia anumitor categorii, „printre cele mai inacceptabile, care prezintă riscurile cele mai importante de încălcări ale dreptului internaţional umanitar, de consecinţe umanitare grave şi de agravare a costului uman al conflictelor armate”. Este vorba despre „interzicerea armelor autonome imprevizibile, respectiv a armelor autonome ale căror efecte nu pot fi prezise sau controlate de manieră adecvată, ceea ce este mai mult cazul atunci când sistemele integrează forme non-deterministe de Inteligenţă Artificială” şi despre „interzicerea armelor autonome antipersonal, respectiv a armelor autonome concepute sau utilizate pentru a viza direct oameni”, a explicat CICR pentru AFP.