Anthropic și Accenture investesc 2 miliarde de dolari în evaluarea modelelor de inteligență artificială
Laboratorul de inteligență artificială Anthropic a anunțat vineri un parteneriat cu Accenture pentru evaluarea independentă a modelelor sale frontieră de inteligență artificială, cele două companii angajându-se să investească fiecare cel puțin un miliard de dolari pe parcursul următorilor cinci ani pentru a construi capacitatea necesară acestei activități.
Acțiunile Accenture au crescut cu 7% în tranzacțiile extinse după anunțul parteneriatului.
Colaborarea vine în contextul în care dezvoltatorii de inteligență artificială se confruntă cu o presiune tot mai mare din partea autorităților de reglementare, a companiilor și a cercetătorilor de a se asigura că modelele lor avansate sunt sigure și fiabile.
Mai multe incidente recente, inclusiv cazuri în care agenți de inteligență artificială au ieșit din medii securizate, au alimentat îngrijorările că inteligența artificială ar putea contribui în cele din urmă la propria dezvoltare cu un aport uman limitat, făcând comportamentul său mai greu de monitorizat și controlat.
Sâmbătă, directorul executiv al Anthropic, Dario Amodei, a îndemnat companiile de inteligență artificială să încetinească dezvoltarea modelelor frontieră și să permită evaluatorilor independenți un acces mai larg la sistemele lor.
Compania rivală OpenAI a declarat miercuri că va începe să publice rapoarte regulate privind comportamentul neașteptat sau îngrijorător al modelelor, publicând totodată șase rapoarte despre astfel de incidente.
Divizia specializată de inteligență artificială a Accenture, Faculty, va conduce parteneriatul și va evalua și testa prin metoda „red-team” modelele laboratorului de inteligență artificială, realizând evaluări de aliniere și testând mecanismele de protecție ale modelelor.
Investiția companiilor va susține ceea ce Anthropic numește „evaluare integrată”, în care evaluatorii independenți lucrează în interiorul companiilor de inteligență artificială cu un acces comparabil cu cel al unui angajat.
„Din această poziție, evaluatorii integrați pot evalua modul în care funcționează o companie, pot verifica dacă aceasta își respectă angajamentele de siguranță și pot identifica punctele oarbe”, a declarat Anthropic.
Evaluatorii pot, de asemenea, să raporteze incidente și să ofere publicului o imagine mai informată asupra beneficiilor și riscurilor, a adăugat compania.
Anthropic și Accenture intenționează să colaboreze cu alți evaluatori și dezvoltatori de inteligență artificială în capacități similare.