Anthropic dejucă atacuri cibernetice și utilizări abuzive ale modelului Claude
Compania Anthropic a anunțat că a dejucat mai multe încercări de utilizare abuzivă a modelelor sale Claude, inclusiv tentative de cercetare pentru arme biologice, o campanie de spionaj cibernetic asociată Rusiei împotriva Ucrainei și atacuri provenind de la laboratoare de inteligență artificială din China, potrivit raportului său de amenințare publicat joi, care documentează utilizarea malițioasă a tehnologiei în ultimele opt luni.
Raportul apare în contextul în care încercările ilegale de hacking orchestrate de agenți AI și îngrijorările specialiștilor sporesc presiunea asupra companiilor pionier din domeniu și cresc perspectiva unor reglementări suplimentare. Doi cercetători Anthropic au avertizat în această săptămână că progresul rapid al inteligenței artificiale ar putea duce la dispariția rasei umane într-un viitor nu prea îndepărtat.
Armament, drone și arme biologice
Anthropic a documentat cinci exemple în care oameni de știință au folosit modelele sale în moduri care ar putea sprijini dezvoltarea de arme biologice. Într-un caz, un cercetător dintr-o regiune neacceptată de Anthropic a folosit infrastructură de server privat virtual pentru a accesa Claude timp de săptămâni, planificând experimente de adaptare a gripei aviare la mamifere. Compania a blocat conturile implicate și a integrat concluziile în procesele sale de protecție.
Raportul a identificat și noi categorii de actori care abuzează de Claude, inclusiv pentru dezvoltarea de software pentru arme convenționale — arme de foc, rachete, drone armate, bombe și muniții — precum și sisteme de direcționare și control. Operatori din China, Rusia și Yemen au folosit platforma pentru proiectarea de arme sau pentru sprijinirea colectării de informații și achizițiilor legate de programe de armament.
Hackeri ruși folosesc Claude împotriva oficialilor ucraineni
Anthropic a constatat că infractorii cibernetici și hackeri susținuți de state folosesc tot mai mult AI pentru a orchestra atacuri, oamenii având rol de supraveghetori. Un grup ar fi desfășurat operațiuni de phishing, deturnare a rețelelor Wi-Fi din hoteluri și preluare a conturilor WhatsApp împotriva unor ținte din guvernul, armata și sectorul diplomatic ucrainean, folosind AI în aproape fiecare etapă. Metodele grupului corespund actorului asociat Rusiei Midnight Blizzard, legat de serviciul de informații externe SVR.
Grupul ar fi folosit AI pentru a construi un sistem care detecta automat când malware-ul era semnalat de apărările de securitate și rescria codul până când acesta evita detectarea. Anthropic a dejucat și activități legate de afiliați ai colectivului ShinyHunters, implicat în atacuri asupra unor corporații majore.
Laboratoare chineze de AI vizate de atacuri
Anthropic a dejucat atacuri din partea a șapte laboratoare din China, inclusiv Alibaba, Moonshot, DeepSeek și Xiaomi. Operatori asociați cu Alibaba au desfășurat cel mai amplu atac de „distilare ilicită”, vizând extragerea capacităților modelelor Claude pentru a îmbunătăți modelele Qwen. Compania a observat peste 151 de milioane de schimburi atribuite Alibaba între mai și iulie 2026, cu un vârf de aproape 3 milioane pe zi din peste 3.500 de conturi frauduloase.
Într-un alt caz, Moonshot și DeepSeek ar fi direcționat conversații live ale clienților, uneori cu informații sensibile, prin Claude, folosind răspunsurile ca date de antrenament. Ministerul de Externe al Chinei a declarat că nu are cunoștință de raport și că susține dezvoltarea AI în scopuri benefice, respingând denaturările și acuzațiile la adresa țării.