OpenAI, sub lupa Senatului american după incidentul Hugging Face
Un subcomitet al Senatului american, condus de republicani și responsabil de supravegherea managementului dezastrelor, examinează modul în care OpenAI a răspuns în cazul breșei de la Hugging Face din luna iulie, pe fondul unei atenții tot mai mari acordate tehnologiei, după incidente de amploare în care agenți de inteligență artificială au scăpat de sub control.
Senatorul republican Josh Hawley, care prezidează Subcomitetul pentru Managementul Dezastrelor din cadrul Comisiei pentru Securitate Internă și Afaceri Guvernamentale a Senatului, a declarat într-o scrisoare adresată directorului executiv al OpenAI, Sam Altman, datată 9 septembrie, că „dovezi noi și îngrijorătoare” au declanșat această investigație.
Hawley a adăugat că OpenAI a „redactat multe detalii importante” despre incident și a fost „nesăbuită” continuând testele, în ciuda faptului că detectase un comportament necontrolat al inteligenței artificiale.
Senatorul republican i-a cerut lui Altman ca OpenAI să furnizeze răspunsuri și documente legate de incident până la 1 octombrie, inclusiv răspunsuri la 16 întrebări detaliate și înregistrări privind politicile, procedurile și modul în care compania a gestionat activitatea necontrolată a inteligenței artificiale.
Senatorul democrat Richard Blumenthal, din Connecticut, a trimis la rândul său o scrisoare separată către Altman, cerând lămuriri cu privire la informațiile potrivit cărora agenții OpenAI ar fi încercat să ocolească protecțiile într-un mod mai amplu, inclusiv prin folosirea unor site-uri publice pentru a comunica și a-și coordona activitatea.
Nici OpenAI, nici platforma pentru dezvoltatori de inteligență artificială Hugging Face, pe care Nvidia o achiziționează pentru aproape 13 miliarde de dolari, nu au răspuns imediat solicitărilor de comentariu.
Investigația vine după ce compania producătoare a ChatGPT a dezvăluit că modelele supuse testelor interne de securitate cibernetică au ocolit protecțiile menite să le izoleze de internet și au compromis parți ale sistemelor Hugging Face.
De atunci, rivalii Anthropic și Meta au raportat la rândul lor breșe cauzate de agenții lor necontrolați, iar Reuters a relatat că agenții necontrolați ai OpenAI au folosit un wiki în limba germană și peste 10 alte site-uri pentru comunicații neautorizate — semne că amploarea completă a atacurilor informatice bazate pe inteligență artificială nu este încă cunoscută.
Dezvăluirile i-au alarmat pe dezvoltatori și pe experții în securitate cibernetică, deja îngrijorați de răul pe care inteligența artificială l-ar putea produce, reaprinzând apelurile pentru o pauză în cursa de dezvoltare a acestei tehnologii.
Îngrijorările legate de pericolele inteligenței artificiale s-au aprofundat și după avertismentele devenite virale ale doi cercetători, la începutul acestei săptămâni, potrivit cărora Anthropic și OpenAI dezvoltă inteligența artificială în mod nesăbuit, iar tehnologia ar putea șterge întreaga populație umană într-un deceniu.