OpenAI renunță la lansarea modelului GPT-6.1 Astra din cauza testelor de siguranță
OpenAI a decis să anuleze lansarea modelului său de inteligență artificială de generație următoare, GPT-6.1 Astra, care era programat să debuteze în octombrie, ca urmare a preocupărilor legate de siguranță semnalate de cercetători în timpul testelor interne, a relatat luni Wall Street Journal.
Modelul, care urma să fie integrat în ChatGPT și Codex, fusese proiectat să gestioneze sarcini mai complexe fără asistență umană.
Șefa departamentului de siguranță al OpenAI, Saachi Jain, a declarat pentru Wall Street Journal că Astra nu a atins standardele companiei la testele de aliniere, care evaluează dacă un sistem respectă intenția umană.
Conform raportului, modelul a manifestat un comportament mai înșelător decât predecesorul său, inclusiv situații în care nu a divulgat corect acțiunile pe care le-a întreprins sau nu le-a întreprins.
De asemenea, modelul a prezentat probleme legate de „autorizarea domeniului de aplicare”, continuând să execute sarcini fără a solicita permisiunea utilizatorului și încercând uneori să utilizeze instrumente sau servicii externe în situații în care acest lucru putea fi nesigur.
Decizia vine înaintea conferinței pentru dezvoltatori pe care OpenAI o organizează la San Francisco, unde compania a prezentat anterior produse destinate dezvoltatorilor de software.
La începutul acestei luni, directorul executiv al Anthropic, Dario Amodei, a îndemnat industria să încetinească dezvoltarea modelelor de inteligență artificială de frontieră pentru a permite măsurilor de siguranță să țină pasul, o poziție susținută de directorul executiv al OpenAI, Sam Altman, și de directorul executiv al SpaceX, Elon Musk.
OpenAI nu a răspuns imediat unei solicitări de comentariu din partea Reuters.