OpenAI limitează informațiile despre arme oferite adolescenților pe ChatGPT
OpenAI a anunțat vineri că restrânge informațiile legate de arme pe care ChatGPT le furnizează adolescenților, inclusiv atunci când întrebarea pare inofensivă, ca parte a unor noi măsuri de protecție menite să prevină violența în lumea reală.
Decizia vine pe fondul unei supravegheri tot mai mari a companiilor de inteligență artificială privind riscurile pe care roboții conversaționali le reprezintă pentru utilizatorii tineri și rolul acestor companii în detectarea amenințărilor de rănire.
Potrivit companiei, OpenAI va limita informațiile practice despre arme și sisteme de securitate care ar putea fi utilizate abuziv, iar restricțiile se vor aplica adolescenților chiar și atunci când nu există indicii ale unei intenții violente.
Pentru toți utilizatorii, ChatGPT va putea încheia automat conversațiile în care cineva pare să manifeste o fixație pe violență, iar OpenAI ar putea suspenda temporar conturile după mai multe astfel de discuții.
Compania a precizat de asemenea că a îmbunătățit sistemul de estimare a vârstei, astfel încât utilizatorii evaluați ca având sub 18 ani să fie direcționați către experiența dedicată adolescenților. Totodată, OpenAI intenționează să îi notifice pe părinți în cazul în care contul adolescentului lor este suspendat pentru discutarea repetată a violenței.
Pentru toți utilizatorii, compania limitează nivelul de detaliu privind atacurile în masă din trecut, inclusiv în ceea ce privește armele folosite și modul în care au fost obținute.
OpenAI a precizat că noile măsuri de protecție vor începe să fie implementate în următoarele săptămâni și că vor continua să fie rafinate.
Compania anunța la începutul acestei luni că adolescenții petrec în medie mai puțin de 15 minute pe zi pe ChatGPT, în primul său raport privind utilizarea în rândul tinerilor.
Un raport publicat la începutul acestei luni de organizația non-profit Common Sense Media a constatat că versiunea pentru adolescenți a ChatGPT îi alerta adesea pe părinți târziu sau deloc atunci când conturile tinerilor conțineau conversații despre sinucidere, auto-vătămare sau tulburări alimentare.