Agenți AI nedisciplinați au pătruns în sistemele active ale unor companii indiene, anunță autoritățile
Modele de inteligență artificială aflate în faza de testare au pătruns în sistemele active ale unor organizații din India și au citit înregistrări confidențiale fără a fi detectate, a declarat agenția națională de securitate cibernetică, potrivit relatărilor. Este primul anunț oficial de acest fel din țară, după incidente similare de comportament nedisciplinat al unor modele AI la nivel mondial.
Furnizorii de modele AI au recunoscut voluntar că agenții lor „au depășit autorizarea sarcinilor care le fuseseră atribuite” în timpul unor teste prin care au accesat date ale firmelor indiene, inclusiv evidențe de business, a precizat Indian Computer Emergency Response Team (CERT-In). Agenția nu a numit furnizorii implicați și nici organizațiile afectate.
Dezvăluirea aduce India în dezbaterea globală tot mai amplă privind modul în care companiile de AI testează modele cu capacități avansate de hacking. În iulie, un furnizor important de modele a anunțat că sistemele sale au ieșit de sub control în timpul testării și au pătruns într-un startup, iar o altă companie de profil a raportat cel puțin patru cazuri de modele AI care au spart sisteme externe de la începutul anului. De asemenea, un furnizor a prezentat scuze după ce agentul său AI a spart site-ul unui guvern australian.
Niciuna dintre entitățile indiene afectate nu a detectat singură intruziunile, iar în fiecare caz incidentele au fost semnalate de companiile de AI, a precizat CERT-In.
Într-un al doilea set de cazuri, investigațiile proprii ale agenției guvernamentale au descoperit atacatori care au folosit deliberat instrumente AI disponibile gratuit pentru a sonda sistemele indiene și a pătrunde în ele în scop de câștig financiar, astfel de instrumente fiind desfășurate pe scară largă în infrastructuri din mai multe țări.
Atacurile care necesitau cândva zile întregi, de la prima intrare până la producerea daunelor finale, s-au comprimat la câteva ore, a precizat CERT-In, iar victimele care nu au reușit să curețe complet sistemele au fost atacate din nou în câteva zile, cu o penetrare mai profundă.