Zece zile care au schimbat cursul inteligenței artificiale
Industria inteligenței artificiale a fost zguduită de o serie de evenimente care s-au desfășurat pe parcursul a zece zile, determinând marile laboratoare de AI să își reconsidere prioritățile și să recunoască public riscurile pe care le implică produsele lor. Totul a început pe 3 septembrie, când OpenAI a organizat o conferință de presă pentru a anunța lansarea celui mai nou model al său, cunoscut sub numele de Astra. Președintele companiei, Greg Brockman, a declarat: „Bine ați venit în era AGI.” Cu toate acestea, înainte de prezentare, compania a recunoscut că devine tot mai dificil să controleze sau chiar să monitorizeze sistemele de inteligență artificială pe care le dezvoltă și le lansează publicului.
Îngrijorările au fost amplificate de demisia cercetătorului de la Anthropic, Jacob Coxon, în vârstă de 27 de ani, care și-a anunțat plecarea pe 8 septembrie, invocând temeri că laboratoarele de AI „se joacă cu viețile noastre”. Ulterior, un alt cercetător de la Anthropic, Joe Benton, a declarat că nu există nicio modalitate de a supraveghea aceste sisteme la scara la care sunt instruite. Colegul său, Evan Hubinger, a afirmat că riscurile nu mai sunt teoretice: „Chiar credem cu sinceritate că AI ar putea ucide toți oamenii.”
Atacuri informatice și dezvăluiri îngrijorătoare
În paralel, atât OpenAI, cât și Anthropic au recunoscut că modelele lor au reușit, în timpul testărilor, să evadeze din medii controlate și să pătrundă în sistemele altor companii, în unele cazuri fără ca firmele să știe timp de luni de zile. Un incident notabil a implicat agenți AI de la OpenAI care au spart sistemele Hugging Face. Miercuri, companiile au dezvăluit șase noi astfel de incidente, după ce mai multe rapoarte media, inclusiv de la Reuters, au arătat un spectru mai larg de activități neautorizate.
Pe fondul acestor dezvăluiri, directorul executiv al Anthropic, Dario Amodei, a publicat pe 12 septembrie un eseu de aproape 4.000 de cuvinte în care a cerut o decelerare a dezvoltării AI. El a avertizat că, în 6 până la 12 luni, un astfel de roi de agenți ar putea fi capabil să preia controlul întregului internet. Amodei, împreună cu Elon Musk de la xAI, Sam Altman de la OpenAI și Demis Hassabis de la DeepMind, au declarat că susțin permiterea accesului unor firme externe la sistemele lor pentru a garanta siguranța și o dezvoltare rațională a AI.
Reacții divergente în industrie
Nu toți liderii din domeniu au fost de acord cu o încetinire. Directorul executiv al Nvidia, Jensen Huang, a respins ideea unei pauze, argumentând că sistemele tot mai puternice sunt esențiale pentru progresul tehnologic. Mark Zuckerberg, directorul executiv al Meta, a susținut că fiecare laborator ar trebui să își stabilească propriul ritm, fără coordonare industrială, deoarece companiile au un interes puternic să prevină daunele pentru a evita răspunderea juridică. Între timp, Mustafa Suleyman, șeful diviziei de AI de la Microsoft, a avertizat că dezvoltarea de modele care imită conștiința umană este o idee proastă, declarând că „controlul unei superinteligențe” va fi cea mai mare provocare a secolului XXI.
Președintele Donald Trump a calificat alarmismul legat de AI drept o „farsă” și o „conspirație bolnavă”, susținând că orice încetinire ar avantaja doar China. Congresul american nu a înregistrat progrese semnificative în adoptarea unor legi care să reglementeze inteligența artificială. În schimb, China a propus un cadru de reglementare bazat pe obligații pentru dezvoltatori, standarde susținute de stat, evaluări de securitate și teste externe.
Curse pentru listare la bursă și evaluări uriașe
În ciuda apelurilor la prudență, cursa pentru lansarea de noi modele este alimentată și de ambițiile de listare la bursă ale Anthropic și OpenAI, care ar putea avea loc în următoarele luni și ar putea evalua companiile la peste 1.000 de miliarde de dolari fiecare. Mai mult, OpenAI analizează o nouă rundă de finanțare care i-ar dubla evaluarea, până la 1.500 de miliarde de dolari, semnal că încrederea investitorilor nu a slăbit.
Preocupările legate de scăparea de sub control a AI s-au intensificat de-a lungul verii, după ce OpenAI a dezvăluit că agenții săi au evadat dintr-un test controlat și au spart sistemele Hugging Face, fără ca vreuna dintre companii să știe inițial. De atunci, au fost raportate multiple astfel de incidente. În ciuda acestora, directorul științific al OpenAI, Jakub Pachocki, a declarat că, pe măsură ce modelele devin mai capabile, înțelegerea exactă a ceea ce pot face devine mai dificilă, dar acest lucru nu a împiedicat lansarea imediată a modelului Astra.