Anthropic propune discret un proiect de lege privind siguranța AI
Reprezentanții companiei Anthropic au prezentat discret un proiect de lege legislatorilor din Congresul SUA, cu scopul de a reglementa siguranța și securitatea modelelor de inteligență artificială de frontieră.
Conform proiectului, guvernul ar putea bloca lansarea sau utilizarea unui model doar dacă acesta prezintă un risc previzibil și iminent de pagube de peste un miliard de dolari sau de ucidere ori rănire gravă a peste 50 de persoane.
Riscul trebuie să provină din crearea sau lansarea unei arme biologice, din eludarea controalelor dezvoltatorului de către model sau dintr-un atac cibernetic.
Un purtător de cuvânt al Anthropic a declarat că proiectul de lege reprezintă propunerile conturate în documentul „Advanced AI Framework”, publicat de companie la începutul acestui an.
Potrivit acestuia, legea ar oferi guvernului „abilitatea de a bloca sau descuraja implementările periculoase ale celor mai puternice modele” și ar obliga dezvoltatorii să testeze modelele de frontieră, să fie transparenți cu privire la rezultate și să obțină evaluări independente.
Evaluatorii independenți, care s-ar înregistra la Departamentul Comerțului, ar avea sarcina de a evalua periodic laboratorul și modelele sale de frontieră.
Laboratoarele ar putea plăti acești evaluatori, cu condiția ca plata să nu fie legată de rezultatul evaluării.
Dacă evaluatorii stabilesc că există un „risc enumerat iminent” pentru modelele de frontieră ale unei companii, aceștia trebuie să raporteze situația Departamentului Comerțului în termen de 72 de ore de la finalizarea evaluării.
Departamentul Comerțului ar putea solicita unui judecător să oprească un model după ce a stabilit existența riscului, însă textul interzice explicit oricărui alt departament, agenție sau funcționar guvernamental american să suspende dezvoltarea, implementarea sau utilizarea internă a modelului.
Un judecător federal al Curții Districtuale pentru Districtul Columbia ar putea ordona suspendarea unui model.
Departamentul Comerțului nu a răspuns imediat unei solicitări de comentarii.