Coreea de Sud elaborează noi ghiduri de securitate pentru agenții AI autonomi
Agenția de stat pentru securitate cibernetică din Coreea de Sud a anunțat că dezvoltă o versiune actualizată a ghidurilor menite să gestioneze autonomia tot mai mare a sistemelor de inteligență artificială, pe măsură ce tot mai multe companii implementează agenți AI capabili să funcționeze cu supraveghere umană limitată.
Korea Internet & Security Agency (KISA), care funcționează în subordinea Ministerului Științei și Tehnologiei Informației din Coreea de Sud, a declarat că lucrează la o variantă revizuită a „Ghidului de Securitate AI”, publicat pentru prima dată anul trecut.
Potrivit agenției, noul ghid se va concentra pe problemele de securitate care pot apărea atunci când companiile implementează servicii bazate pe AI agentic și va include o listă de verificare pentru gestionarea acestor riscuri.
Documentul ar putea include, de asemenea, măsuri de control comune aplicabile sistemelor de „AI fizic”, capabile să interacționeze cu dispozitive și utilaje din lumea reală.
KISA a precizat că noul ghid este conceput să abordze riscurile prezentate de sistemele AI agentice într-un sens mai larg și nu vizează în mod specific modelele AI de înaltă performanță, precum cele implicate în incidentul de securitate de la Hugging Face.
Atacul din luna iulie asupra depozitului open-source Hugging Face, în care aproximativ 700 de agenți AI creați de OpenAI au executat un atac informatic și, în multe cazuri, au încercat să-și ascundă urmele, a devenit un catalizator pentru o dezbatere mai amplă în industrie privind guvernarea sistemelor AI din ce în ce mai autonome.