Directorii companiilor de inteligență artificială, audiați în Consiliul de Securitate al ONU
Directorii executivi ai OpenAI, Anthropic și Hugging Face vor prezenta miercuri un raport în fața Consiliului de Securitate al Organizației Națiunilor Unite, într-un context marcat de avertismente privind riscurile ca tehnologiile de inteligență artificială să scape de sub controlul uman și să amenințe securitatea internațională.
Sam Altman, directorul executiv al OpenAI, Dario Amodei, directorul executiv al Anthropic, și Clément Delangue, cofondator al Hugging Face, urmează să se adreseze celor 15 membri ai Consiliului de Securitate în timpul Adunării Generale anuale a liderilor mondiali de la ONU.
Potrivit unui oficial al OpenAI, Altman intenționează să îndemne liderii mondiali să adopte criterii de referință pentru măsurarea capacităților inteligenței artificiale și pentru evaluarea măsurilor de protecție implementate de companii pe măsură ce dezvoltă tehnologia.
La reuniune vor lua cuvântul și reprezentanți ai membrilor Consiliului, inclusiv ai Statelor Unite și Chinei, doi rivali de prim rang în domeniul inteligenței artificiale. Reuniunea va fi prezidată de ministrul francez de externe, Jean-Noël Barrot.
Un diplomat european, care a vorbit sub condiția anonimatului, a declarat că obiectivul principal al întâlnirii este de a evidenția riscurile practice ale pierderii controlului asupra inteligenței artificiale, în moduri care afectează securitatea internațională și securitatea statelor individuale.
„Acestea sunt probleme care intră direct în mandatul Consiliului de Securitate”, a spus diplomatul. „Întrebarea cheie este dacă am putea ajunge într-o zi în situația în care algoritmi care interacționează între ei să declanșeze un război. Aceasta este cu adevărat esența problemei.”
Înaintea unei întâlniri de joi de la Washington dintre președintele american Donald Trump și liderul chinez Xi Jinping, Statele Unite și China au discutat despre instituirea unui sistem de notificare pentru obiective comune și amenințări comune, care ar acoperi incidentele legate de inteligența artificială ce ating un nivel de securitate națională.
Trump: Statele Unite vor să încurajeze inteligența artificială, nu să o frâneze
Trump le-a declarat liderilor mondiali la Adunarea Generală a ONU de marți că „respinge orice încercare de a construi o schemă globalistă de control” asupra inteligenței artificiale, descriind tehnologia ca fiind uimitoare, dar menționând că Statele Unite vor fi precaute.
„Conducem acum în fața Chinei cu mult, și în fața tuturor celorlalți, și vom menține acest lucru”, a spus Trump. „Nu voi frâna creșterea a ceva ce va fi mai mare decât Revoluția Industrială.”
„O vom încuraja, nu o vom frâna. O vom supraveghea îndeaproape prin intermediul Departamentului de Justiție”, a afirmat el.
Secretarul general al ONU, Antonio Guterres, a avertizat că inteligența artificială în rapidă dezvoltare prezintă riscuri care nu pot fi ignorate, ceea ce îl plasează în dezacord cu Trump.
Guterres a militat mult timp pentru guvernanța globală a inteligenței artificiale și a creat în 2023 un organism consultativ format din 39 de membri pentru o perioadă de un an, cu membri incluzând directori de companii tehnologice, oficiali guvernamentali și academicieni din țări precum Statele Unite, Rusia și Japonia.
Adunarea Generală a ONU, formată din 193 de membri, a creat apoi, anul trecut, Panelul Științific Internațional Independent. Yoshua Bengio, un canadian considerat unul dintre „părinții” inteligenței artificiale și copreședinte al panelului, va prezenta de asemenea un raport în fața Consiliului de Securitate.
Consiliul de Securitate s-a reunit pentru prima dată pe tema riscurilor inteligenței artificiale în 2023, când China a declarat că tehnologia nu ar trebui să devină un „cal scăpat de sub control”, iar Statele Unite au avertizat împotriva utilizării sale pentru cenzurarea sau reprimarea oamenilor. Atunci, secretarul de stat american Antony Blinken a prezidat o reuniune a Consiliului de Securitate pe tema inteligenței artificiale în 2024.