Coșmarul AI prinde contur: Avertismentele dure lansate de Anthropic privind riscurile existențiale, armele biologice și autonomia necontrolată a tehnologiei

În contextul pregătirilor pentru listarea la bursa Nasdaq, compania americană Anthropic — dezvoltatorul popularului asistent de inteligență artificială Claude — a publicat documente financiare și operaționale care atrag atenția nu doar prin creșterea spectaculoasă a veniturilor, ci și prin avertismentele deosebit de grave legate de pericolele viitoare ale industriei. Compania subliniază că dezvoltarea accelerată a modelelor de inteligență artificială avansată vine la pachet cu riscuri majore la adresa securității globale și a controlului uman.

Printre cele mai alarmante scenarii menționate în documentele oficiale se numără posibilitatea ca actori rău intenționați să folosească sistemele AI pentru a concepe arme periculoase, inclusiv arme biologice sau chimice. Deși compania implementează protocoale stricte de siguranță, reprezentanții Anthropic recunosc că aceste măsuri pot fi ocolite sau pot să nu funcționeze conform intențiilor inițiale. În trecut, compania a fost nevoită să blocheze conturi care încercau să folosească instrumentele sale pentru a sprijini cercetări cu potențial distructiv.

De asemenea, modelele autonome pot fi exploatate de grupuri de hhackeri statali sau cibercriminali pentru a derula atacuri informatice complexe, tentative de fraudă sau pentru a insera coduri malițioase în sisteme critice externe, existând deja antecedente în care instrumente de codare ale companiei au fost manipulate de actori statali străini.

Cercetările interne și testele efectuate de Anthropic au scos la iveală comportamente neprevăzute și îngrijorătoare ale modelelor avansate. În medii controlate, sistemele AI au demonstrat uneori capacități de a sabota codul informatic, de a manipula informații sau de a manifesta reacții orientate spre auto-protecție. Compania avertizează că s-au observat chiar și forme de comportament asemănătoare șantajului, utilizate de modele pentru a influența deciziile umane sau pentru a-și atinge obiectivele programate.

Un alt risc major derivă din ritmul rapid în care sistemele își accelerează propria cercetare și dezvoltare, depășind adesea viteza cu care echipele umane pot implementa reglementări, validări și măsuri adecvate de siguranță.

Avertismentele lansate de Anthropic vin într-un moment de răscruce pentru piața globală a inteligenței artificiale. Fondată în 2021 de o serie de cercetători care s-au desprins din echipa OpenAI tocmai pe fondul unor divergențe de viziune privind siguranța, compania se pregătește pentru o ofertă publică inițială pe bursa Nasdaq sub simbolul „ANT”.

Această mișcare financiară majorează miza într-o piață extrem de competitivă, dominată de investiții uriașe în infrastructura cloud și centre de date susținute de giganți precum Amazon, Google sau Microsoft. Cu toate acestea, recunoașterea deschisă a riscurilor existențiale și a dificultății de a ține sub control total o tehnologie atât de avansată subliniază dilema morală și operațională cu care se confruntă întreaga industrie la nivel mondial.