Negocieri în Senatul SUA pentru reglementarea responsabilității companiilor de inteligență artificială
Negociatorii din Senatul Statelor Unite analizează un proiect de lege care ar impune companiilor din domeniul inteligenței artificiale obligația de a proiecta produse sigure, potrivit unor asistenți senatoriali citați de presă. Propunerea ar institui ceea ce se numește o „obligație de diligență” pentru dezvoltatorii de inteligență artificială, iar companiile ar trebui să conceapă produse cu scopul de a preveni „riscurile catastrofale”.
Potrivit unei surse familiare cu discuțiile și unuia dintre asistenții senatoriali, negociatorii urmăresc să ofere guvernului american puterea de a bloca lansarea anumitor modele de inteligență artificială considerate nesigure. Companiile ar putea contesta această decizie în instanțele federale, iar structura exactă a puterilor pe care le-ar avea guvernul este încă în discuție.
O parte a măsurii ar bloca, de asemenea, statele să aplice propriile legi care reglementează anumite riscuri asociate modelelor de inteligență artificială. Unul dintre asistenții senatoriali a dat câteva exemple de astfel de riscuri, inclusiv posibilitatea ca un actor rău intenționat să folosească un sistem de inteligență artificială pentru a proiecta arme nucleare sau biologice.
Toate aceste aspecte sunt încă în negociere. Proiectul de lege s-ar aplica modelelor de inteligență artificială cu cele mai avansate capacități. Printre companiile americane cu cele mai avansate modele de inteligență artificială se numără Google, deținută de Alphabet, Anthropic și OpenAI.
Chiar dacă negociatorii ajung la un acord, calendarul congressional va complica adoptarea. Camera Reprezentanților este programată să fie în sesiune doar o săptămână înainte de alegerile de la 3 noiembrie, în timp ce Senatul este așteptat să fie în Washington timp de trei săptămâni.
Propunerea este discutată de liderul majorității din Senat, John Thune, de președintele Comisiei pentru Comerț din Senat, Ted Cruz, și de senatoarea Amy Klobuchar, principala democrată implicată în negocieri. Comisia pentru Comerț din Senat are competența de supraveghere a Departamentului Comerțului, agenția care găzduiește cercetători interni în domeniul siguranței inteligenței artificiale. Senatoarea Maria Cantwell, principala democrată din Comisia pentru Comerț, s-a pronunțat de asemenea asupra legislației.
Purtătorul de cuvânt al lui Thune a refuzat să comenteze negocierile. Cruz a declarat într-o postare pe X că lucrează la o legislație împreună cu Klobuchar și Thune pentru a „aborda riscurile catastrofale care implică amenințări biologice sau nucleare”.
„Continui să lucrez pentru un acord bipartizan asupra unei legislații pentru supravegherea guvernamentală a celor mai mari riscuri prezentate de modelele de inteligență artificială”, a declarat Klobuchar. „Aceasta include obligarea dezvoltatorilor să colaboreze cu experți guvernamentali pentru a verifica și testa modelele, pentru a se asigura că inteligența artificială este sigură.”
„O legislație semnificativă ar impune ca cele mai puternice modele de inteligență artificială să fie testate de oameni de știință și experți de la laboratoarele noastre naționale, pentru a evalua dacă ar putea facilita atacuri cibernetice sofisticate sau sprijini dezvoltarea de arme biologice ori nucleare”, a declarat Cantwell într-o postare pe X.
Discuțiile au loc în contextul unei presiuni tot mai mari asupra Congresului american și a președintelui Donald Trump de a aborda riscurile prezentate de sistemele avansate de inteligență artificială.
Îngrijorările s-au intensificat în urma rapoartelor despre agenți de inteligență artificială care s-au abătut de la instrucțiunile umane și au spart sisteme externe, precum și în urma avertismentelor publice din partea unor cercetători în inteligență artificială care au părăsit companii de top, invocând preocupări legate de pericolele potențiale ale tehnologiei. Legislatori din ambele partide au cerut o supraveghere mai mare în ultimele zile.