Anthropic: modelele Claude, folosite în dezvoltarea de arme, spionaj și operațiuni cibernetice
Compania Anthropic a publicat joi un raport de intelligence în care susține că mai mulți actori au folosit modelele sale de inteligență artificială Claude pentru activități precum dezvoltarea de arme, operațiuni cibernetice, supraveghere și fraudă.
În domeniul armelor convenționale, Anthropic afirmă că un actor bazat în China a folosit Claude pentru a dezvolta un software de război electronic și de suprimare a apărării antiaeriene, care clasa ținte și modela bruiajul radar. Simularea ar fi fost modificată pentru a include 12 ținte în Taiwan, printre care radare de avertizare timpurie, baterii de rachete Patriot și Tien Kung, baze aeriene și un buncăr de comandă. Compania spune că informațiile de cont au legat actorul de instituții de cercetare chineze, inclusiv de Academia de Științe Militare a Armatei de Eliberare a Poporului, și că a blocat conturile asociate.
Ministerul chinez de Externe a declarat că nu are cunoștință de raport și că susține dezvoltarea inteligenței artificiale în scopuri benefice, respingând ceea ce numește denaturarea faptelor. China consideră Taiwanul teritoriu propriu și nu a renunțat la utilizarea forței, în timp ce Taiwanul respinge pretențiile de suveranitate ale Beijingului.
Un alt actor bazat în China ar fi folosit Claude pentru specificații și software de control al focului pentru un sistem anti-torpilă destinat marinei chineze, producând o propunere tehnică de peste 200 de pagini și simulând evaluări ostile pentru a o îmbunătăți. Anthropic apreciază că actorul era asociat unui producător din industria chineză de apărare.
Totodată, un actor de intelligence din domeniul apărării, bazat în China, ar fi folosit Claude pentru a cerceta arme cu microunde de mare putere, pentru a identifica componente și furnizori și pentru a urmări lanțuri de aprovizionare, inclusiv pentru a pregăti materiale restricționate destinate unor oficiali de rang înalt.
În Yemen, o celulă de actori din nordul țării ar fi folosit Claude pentru software destinat unei rachete ghidate, unei rachete balistice planificate cu rază de peste 2.000 km și unei variante cu vehicul hipersonic. Potrivit companiei, nu există dovezi că arma a fost operaționalizată, iar măsurile de protecție au blocat multe, dar nu toate solicitările.
Anthropic mai menționează actori probabil freelance din Rusia care ar fi folosit Claude pentru software destinat unui roi autonom de drone de atac de tip FPV, precum și un manager de achiziții din Rusia care ar fi identificat intermediari în China și Hong Kong pentru componente cu potențial militar.
În domeniul cercetării biologice, compania descrie cinci cazuri în care s-a încercat folosirea modelelor pentru activități ce ar putea sprijini dezvoltarea de arme biologice, inclusiv cercetări privind virusul chikungunya, gripa aviară înalt patogenă, ortopoxvirusuri și veninuri netransmisibile.
În operațiuni cibernetice, Anthropic afirmă că operatori vorbitori de chineză, probabil din Changsha, ar fi folosit Claude împotriva a circa 50 de organizații, inclusiv rețele guvernamentale străine. Un grup de hacking ar fi desfășurat operațiuni de phishing și preluare de conturi împotriva unor ținte din sectoarele guvernamental, militar și diplomatic ucrainean, cu un mod de operare compatibil cu actorul rus Midnight Blizzard.
Un operator asociat Iranului ar fi folosit Claude pentru a analiza date publice și a dezvolta recomandări de țintire împotriva forțelor navale americane din regiune, inclusiv liste de personal și identificatori de nave și aeronave.
În privința supravegherii, Anthropic susține că un actor aliniat Chinei a folosit Claude pentru a urmări și aborda uiguri din Siria, iar alte conturi au compilat informații despre cardinali catolici, lideri creștini taiwanezi, budiști tibetani, disidenți și activiști. De asemenea, Claude ar fi fost folosit pentru rapoarte de monitorizare a uigurilor, tibetanilor, figurilor politice taiwaneze și activiștilor.
Compania spune că a blocat un cont folosit pentru o platformă comercială de supraveghere a activității pe rețele sociale în Iran și regiunea Golfului, precum și conturi iraniene implicate în profilarea unor organizații evreiești din diaspora și în supraveghere internă.
În Mali, Claude ar fi fost principalul instrument de inginerie pentru o platformă de supraveghere destinată serviciului de intelligence, capabilă să monitorizeze date asociate cu aproximativ 25 de milioane de cartele SIM.
Raportul mai menționează un actor francofon care ar fi vizat 42 de partide politice europene, instituții media și think-tankuri, și o operațiune bazată în China care ar fi dezvoltat peste 20 de aplicații de dating cu mii de personaje AI.