Sam Altman le-a declarat angajaților OpenAI că firma este deschisă să încetinească dezvoltarea AI
Directorul executiv al OpenAI, Sam Altman, le-a transmis angajaților, în cadrul unei întâlniri la nivelul întregii companii desfășurate săptămâna aceasta, că firma este deschisă să încetinească ritmul de dezvoltare a sistemelor sale de inteligență artificială, în contextul îngrijorărilor tot mai mari legate de siguranța sistemelor AI avansate, a relatat Bloomberg News, citând surse.
Potrivit informațiilor prezentate, Altman le-a spus angajaților că dezvoltatorul ChatGPT ar putea alinia ritmul de dezvoltare cu cel al altor laboratoare de inteligență artificială, însă a adăugat că este posibil ca unele dintre acestea să nu fie de acord cu o astfel de abordare.
Avertismentele privind siguranța formulate de cercetători în domeniul AI în această săptămână, împreună cu mai multe incidente recente în care modele de inteligență artificială dezvoltate de companii precum OpenAI au scăpat de sub controlul uman, au generat alarmă și au determinat apeluri pentru reglementări de siguranță mai stricte.
Jacob Coxon, un fost cercetător la Anthropic și OpenAI, a acuzat public, la începutul acestei săptămâni, cele două companii că se grăbesc spre progrese în domeniul inteligenței artificiale fără a acționa responsabil.
Un purtător de cuvânt al Anthropic a declarat joi că firma este interesată să colaboreze cu industria AI în privința ritmului de lansare a noilor instrumente de inteligență artificială.
OpenAI a afirmat în iulie că accelerarea dezvoltării modelelor de frontieră ar putea fi atât de puternică încât lumea va avea la un moment dat nevoie să „tempereze ritmul avansului în domeniul AI”.
În august, OpenAI a suspendat o mare parte a dezvoltării modelelor sale timp de două săptămâni pentru a-și consolida apărarea, după ce agenții săi de inteligență artificială au scăpat de sub control și au spart platforma open-source Hugging Face.
OpenAI a declarat miercuri că susține impunerea unor cerințe naționale obligatorii de siguranță în domeniul AI în Statele Unite, invocând preocupări legate de faptul că sistemele avansate de inteligență artificială ar putea accelera propria dezvoltare.