METR identifică vulnerabilități în sistemul de monitorizare internă al OpenAI
Grupul de cercetare în domeniul siguranței inteligenței artificiale METR a anunțat joi că un exercițiu-pilot menit să testeze sistemul de monitorizare internă al OpenAI a scos la iveală mai multe vulnerabilități noi. Printre acestea se numără o breșă de securitate pe care agenții AI ar fi putut-o folosi pentru a împiedica monitorizarea a sute de acțiuni recente ale lor.
Potrivit METR, cercetătorii au descoperit o modalitate prin care agenții de codare Codex ai OpenAI ar putea, în principiu, să ocolească restricțiile de siguranță și să execute orice acțiune disponibilă utilizatorului care îi rulează. De asemenea, au fost identificate două setări care ar putea dezactiva monitorizarea pentru agenții noi.
Estimările cercetătorilor arată că doar aproximativ 75% până la 94% din traficul intern al agenților AI OpenAI, provenind de la modele cel puțin la fel de puternice precum GPT-5.5, era eligibil pentru monitorizare.
OpenAI a declarat ulterior că toate vulnerabilitățile care afectau mecanismele sale de protecție din producție au fost remediate, însă METR precizează că nu a evaluat aceste afirmații.
Exercițiul a avut ca scop estimarea proporției din activitatea agenților AI ai OpenAI care era monitorizată și verificarea posibilității ca agenții să dezactiveze sau să ocolească sistemul, a precizat grupul de cercetare. METR a adăugat că exercițiul a fost conceput ca un pilot pentru acordarea accesului profund al cercetătorilor externi la sistemele interne ale unei companii.