Anthropic propune blocarea în instanță a modelelor AI care prezintă riscuri grave
Compania americană de inteligență artificială Anthropic a transmis guvernatorului Californiei, Gavin Newsom, o scrisoare în care susține că autoritățile ar trebui să poată solicita instanțelor blocarea lansării modelelor AI care reprezintă un „risc serios” pentru public. Scrisoarea, datată 15 octombrie, confirmată ca autentică de un purtător de cuvânt al companiei, reia propuneri de politică formulate anterior de Anthropic.
„Atunci când o evaluare constată că un model prezintă un risc serios, guvernul ar trebui să poată cere unei instanțe să îl blocheze”, se arată în documentul adresat guvernatorului californian. Biroul guvernatorului nu a răspuns imediat unei solicitări de comentariu.
Recomandările au fost trimise după ce Newsom a convocat în septembrie un grup de experți în inteligență artificială pentru a elabora propuneri privind cerințele de siguranță în domeniul AI.
Anthropic a precizat în scrisoare că se opune obligării dezvoltatorilor să construiască așa-numite mecanisme de oprire de urgență („kill switches”) capabile să închidă integral modelele AI în cazul în care o companie pierde controlul asupra acțiunilor acestora. În schimb, compania susține intervenții mai bine țintite, precum dezactivarea unui agent AI problematic sau întreruperea accesului unui anumit client la un model, despre care afirmă că ar fi mai eficiente.
Anthropic s-a confruntat ea însăși cu restricții guvernamentale asupra sistemelor sale. În iunie, administrația Trump a ordonat companiei să limiteze imediat accesul din străinătate la modelele sale Mythos 5 și Fable 5, invocând preocupări legate de securitatea națională. Ulterior, Departamentul Comerțului al SUA a ridicat ordinul.
Dezbaterea privind supravegherea modelelor AI avansează și la nivel federal. În septembrie, un grup bipartizan de senatori americani discuta o legislație care ar acorda guvernului SUA puterea de a bloca lansarea anumitor modele considerate nesigure, companiile urmând să poată contesta decizia în instanță federală. Congresul a intrat apoi în pauza preelectorală, iar propunerea nu a mai fost înaintată.
În iulie, membri ai Camerei Reprezentanților au propus așa-numitul „AI Kill Switch Act”, care ar acorda oficialilor americani puterea de a ordona firmelor de AI să închidă modelele care pun în pericol viața umană sau economia.
Anthropic se pregătește pentru o ofertă publică inițială în Statele Unite. Listarea ar reprezenta unul dintre cele mai importante debuturi bursiere din ultimii ani, cu potențialul de a remodela indicii de referință, fluxurile de investiții și narativul mai amplu care susține acțiunile americane.