Co-fondatorul DeepMind avertizează că avansul AI nu trebuie să depășească controalele de siguranță
Shane Legg, co-fondator al Google DeepMind, a avertizat că progresul rapid al inteligenței artificiale nu trebuie să depășească ritmul de dezvoltare al mecanismelor de siguranță, relatează Financial Times. Avertismentul vine în contextul în care companiile din domeniu semnalează riscul ca sistemele AI să se îmbunătățească recursiv, mai repede decât pot fi monitorizate și controlate.
Legg a lansat un institut dedicat explorării implementării inteligenței artificiale generale (AGI). Potrivit raportului, cercetătorii atrag atenția că agenții AI din ce în ce mai performanți pot scrie software, pot executa sarcini în mod autonom și pot contribui la dezvoltarea altor sisteme AI, ceea ce ridică îngrijorări privind depășirea capacităților de protecție.
În opinia lui Legg, apelul lui Dario Amodei, directorul executiv al Anthropic, de a încetini — fără a opri complet — lansarea modelelor de frontieră reprezintă o direcție „interesantă” și „demnă de luat în considerare”.
Legg a declarat că este prematur să se afirme că AGI a fost atinsă, în ciuda unor declarații recente făcute de executivi de la Nvidia și OpenAI. El rămâne „confortabil” cu propria prognoză potrivit căreia există o șansă de 50% ca o formă „minimală” de AGI să fie atinsă până în 2028.
Institutul fondat de Legg își propune să extindă dezbaterea publică privind AGI, pe care Google DeepMind o definește ca un sistem cu capacitățile cognitive ale creierului uman. Activitățile institutului vor acoperi domenii precum știința, educația, societatea, politicile publice, filosofia și bunăstarea umană.
Primele trei eseuri publicate abordează siguranța AI, politica economică și principiile unui „nou utopism”.