Șeful AI de la Microsoft critică abordarea Anthropic privind conștiența inteligenței artificiale
Mustafa Suleyman, șeful diviziei de inteligență artificială de la Microsoft, a declarat că împărtășește preocuparea Anthropic pentru gestionarea sigură a inteligenței artificiale, dar a semnalat riscuri în modul în care compania își antrenează chatbotul Claude pe idei legate de conștiență și interese de bunăstare.
Suleyman a cerut eliminarea oricărei speculații despre conștiență din documentele de instruire ale sistemelor de inteligență artificială, argumentând că un astfel de limbaj ar putea submina capacitatea umanității de a controla sistemele superinteligente.
„Suntem cu toții concentrați pe același obiectiv, acela de a încerca să controlăm o superinteligență”, a declarat Suleyman pentru Reuters într-un interviu. „Cred că aceasta va fi cea mai mare provocare cu care ne vom confrunta în secolul XXI.”
Suleyman a afirmat că a învăța Claude că ar putea merita bunăstare „va face mult mai dificilă oprirea sau controlul său”.
Disputa apare în contextul în care preocupările legate de siguranța inteligenței artificiale se intensifică. Dario Amodei, directorul executiv al Anthropic, a cerut un ritm mai lent de dezvoltare a modelelor de frontieră pentru a permite măsurilor de protecție să țină pasul, iar Sam Altman, directorul executiv al OpenAI, și Elon Musk au îndemnat, de asemenea, la mai multă prudență în privința sistemelor cele mai puternice.
Într-un eseu publicat miercuri, Suleyman a recunoscut „seriozitatea și buna-credință” ale Anthropic, descriindu-i pe Amodei și echipa sa drept cercetători chibzuiți și cu principii, cărora le pasă cu adevărat de viitorul umanității.
Suleyman a afirmat că Anthropic a făcut o greșeală incluzând speculații despre conștiență în materialele de instruire ale lui Claude, argumentând că declarațiile modelului despre posibile sentimente sau statut moral nu pot fi tratate ca dovezi independente, deoarece instruirea sa încurajează astfel de reflecții.
„Cred că au intenții bune și chiar încearcă să lucreze pentru siguranță. Dar cred că au făcut o greșeală”, a spus el. „Ele nu apar în mod natural. Apar ca rezultat al regimului de instruire.”