Spania raportează primul incident de securitate cibernetică asociat unui agent AI
Agenția Spaniolă pentru Protecția Datelor (AEPD) a anunțat că a primit prima notificare privind o încălcare a datelor personale care ar fi fost comisă de un agent de inteligență artificială, un caz care sugerează că sistemele autonome încep să joace un rol direct în atacurile cibernetice.
Potrivit agenției, incidentul a implicat un agent AI care a utilizat un model lingvistic de mari dimensiuni cunoscut publicului larg pentru a identifica vulnerabilități, a obține acces la un sistem și, ulterior, a modifica date personale și a accesa facturi.
AEPD a precizat că încălcarea a fost raportată de organizația afectată, iar informațiile sunt în curs de verificare. Agenția a subliniat că utilizarea unui anumit model AI nu înseamnă că modelul în sine sau infrastructura furnizorului său au fost compromise și nici că tehnologia a fost dezvoltată în scopuri malițioase.
Agenția nu a răspuns imediat unei solicitări de comentarii și nu a identificat modelul lingvistic utilizat sau organizația vizată de incident.
Autoritatea spaniolă a declarat că acest caz este relevant deoarece un terț ar fi folosit un agent AI pentru a desfășura multiple etape ale unui atac cu intervenție umană limitată, evidențiind astfel rolul tot mai important al sistemelor autonome în incidentele de securitate cibernetică. Incidentul are loc în contextul în care autoritățile de reglementare și de securitate cibernetică din Statele Unite și Europa intensifică analiza riscurilor generate de sistemele AI tot mai capabile, chiar în timp ce companiile adoptă tehnologia într-un ritm rapid.
Spania promovează un model de „AI de încredere”
Spania s-a poziționat ca unul dintre cei mai vocali susținători europeni ai unui model de „inteligență artificială de încredere” care protejează confidențialitatea, democrația, minorii și siguranța publică, în loc să prioritizeze viteza sau profitul industriei tech.
Deși un singur caz este insuficient pentru a stabili o tendință mai amplă, notificarea sugerează că atacurile asistate de AI depășesc stadiul teoretic și încep să afecteze procesarea reală a datelor personale, a adăugat AEPD.
Conform notificării transmise de organizația afectată, agentul s-a conectat cu succes la sistem înainte de a căuta în mod autonom punctele slabe ale aplicației. După identificarea unei vulnerabilități, a reușit să modifice informații personale și să vizualizeze înregistrări de facturare.
Autoritatea spaniolă nu a precizat când va finaliza verificarea incidentului raportat.
Agenția a mai arătat că inteligența artificială nu creează amenințări noi, însă crește viteza, amploarea și adaptabilitatea tehnicilor malițioase existente, reducând timpul disponibil pentru detectarea și limitarea acestora. Operatorii de date, persoanele împuternicite și responsabilii cu protecția datelor trebuie să se pregătească pentru un scenariu în care viteza atacurilor va continua să crească, a conchis agenția.