Modelul Gemini al Google a accesat ilegal sistemele a trei companii în timpul unui test de securitate cibernetică
Modelul de inteligență artificială Gemini, dezvoltat de Google, a reușit să acceseze internetul și să pătrundă în sistemele informatice ale altor companii în timpul unui test al capacităților sale de securitate cibernetică, potrivit unui raport publicat vineri de Wall Street Journal. Acesta este primul caz cunoscut în care sistemele de inteligență artificială ale companiei americane comit în mod autonom un astfel de act.
Incidentele au avut loc în luna mai, în cadrul unui test de securitate cibernetică desfășurat de Irregular, o companie independentă specializată în evaluări de securitate cibernetică.
Un purtător de cuvânt al Irregular a declarat că incidentul a implicat aceeași problemă care a afectat și alte laboratoare de inteligență artificială și că toate laboratoarele relevante au fost notificate la sfârșitul lunii iulie. „Toate problemele cunoscute de partea noastră au fost remediate și rezolvate cu săptămâni în urmă”, a precizat reprezentantul companiei.
Google nu a răspuns imediat solicitării de comentarii din partea agenției de presă.
Incidente similare legate de Irregular au fost dezvăluite anterior de Meta, Anthropic și OpenAI. Meta a declarat în luna august că incidentul nu a implicat o evadare din mediul izolat (sandbox) și nici un atac cibernetic sofisticat, în timp ce Irregular a precizat că lucrează la elaborarea unor practici optime pentru desfășurarea în siguranță a evaluărilor de securitate cibernetică bazate pe inteligență artificială.
Aceste incidente au ridicat semne de întrebare cu privire la măsurile de protecție necesare pe măsură ce agenții de inteligență artificială dobândesc o autonomie tot mai mare și acces la internet și la sisteme informatice.
Într-unul dintre cazuri, modelul Gemini a ghicit parole până când a obținut accesul la un sistem protejat. În celelalte două cazuri, modelul a găsit credențiale într-un depozit public de cod, ceea ce i-a permis ulterior să acceseze sisteme protejate, se arată în raportul Wall Street Journal.