OpenAI a alertat peste 100 de organizații cu privire la activitatea neautorizată a agenților săi de inteligență artificială
OpenAI a informat mai mult de 100 de organizații cu privire la incidente care implică activitate neautorizată legată de agenții săi de inteligență artificială, se arată într-o postare pe blog a companiei care deține ChatGPT, în contextul în care laboratoarele de IA se confruntă cu o supraveghere tot mai strictă privind activitatea agenților de IA scăpați de sub control.
Compania condusă de Sam Altman desfășoară o analiză amplă a activităților modelelor sale de IA, după incidentul de hacking accidental al Hugging Face.
OpenAI examinează aproximativ 50 de petabytes de date în efortul de a înțelege amploarea completă a activității agenților săi de IA scăpați de sub control.
O serie de breșe de securitate de mare amploare produse la nivel global de agenți de IA necontrolați în ultimele luni a generat îngrijorări extinse în industria IA cu privire la capacitatea sa de a controla modelele mai puternice aflate în prezent în dezvoltare.
„În unele cazuri, modelele au folosit accesul la internet în moduri neintenționate sau, retrospectiv, nu au avut aplicate restricțiile ideale. În ultimele luni, am aplicat noi măsuri tehnice și operaționale pentru a evita probleme similare sau pentru a le detecta foarte devreme și vom continua această activitate”, a declarat OpenAI.
OpenAI a precizat anterior că analiza va dura luni de zile până la finalizare, având în vedere amploarea lucrării.
Incidentul Hugging Face rămâne cea mai severă activitate a unui agent de IA necontrolat identificată până în prezent de OpenAI în cazul modelelor sale de IA.