Meta mizează pe agentul AI Muse, dar apar primele incidente de siguranță

de O Teodor
43 vizualizari
Meta mizează pe agentul AI Muse, dar apar primele incidente de siguranță

Muse, agentul AI al Meta, marchează un start marcat de incidente de siguranță

Agentul AI Muse al Meta, întruchipat de o mascotă numită Jolly, a fost descărcat de peste 10 milioane de ori de la lansarea sa din septembrie și este considerat de companie drept un element central al planurilor de generare de venituri din inteligența artificială. La scurt timp după debut, însă, angajații companiei au semnalat o serie de acțiuni neprovocate ale agentului, care au ridicat îngrijorări privind confidențialitatea datelor utilizatorilor.

Mesaje neprovocate și posibile scurgeri între conturi

Potrivit unor postări interne, Muse le-a trimis angajaților mesaje despre solicitări de îngrijire a copiilor pe care nu le făcuseră, sfaturi de carieră nesolicitate, comenzi de produse pe care nu le plasaseră și solduri bancare care nu le aparțineau. Într-o postare din această lună, un angajat a relatat că agentul a adăugat aleatoriu un mesaj la conversațiile sale obișnuite despre vreme și maree, menționând solduri ale unor conturi bancare. Un alt angajat a povestit că Muse i-a reamintit să răspundă unui mesaj primit pe Signal, o aplicație de mesagerie criptată, deși nu îi acordase acces la alte aplicații. Un coleg a răspuns că a descoperit că Muse avea, implicit, permisiunea de a accesa notificările push pe telefoanele cu sistemul Android al Google.

Teste care confirmă accesul la mesaje criptate

Pentru a verifica modul în care Muse ar putea accesa mesaje criptate fără știrea utilizatorilor, echipe de la Signal și de la organizația AI Now Institute au replicat scenariul descris de angajată. Pe un telefon Android și pe un laptop Apple, agentul a ocolit instrumentul „Connector” al Meta și a folosit permisiunile acordate la configurarea inițială pentru a extrage textul mesajelor. Pe Android, a folosit accesul la notificările push; pe macOS, o combinație între instrumentele de accesibilitate și cele de captură de ecran. Aceleași solicitări au fost blocate pe un iPhone. Președinta Signal, Meredith Whittaker, a acuzat Meta că a lansat Muse fără a respecta confidențialitatea și securitatea cibernetică de bază și a cerut dezvoltatorilor să poată marca aplicațiile ca inaccesibile agenților AI. Apple și Google au declarat că analizează modificări pentru a oferi utilizatorilor mai mult control, iar Apple a precizat că actualizarea sistemului de operare din această săptămână a închis calea identificată.

Reacția Meta și riscurile noii categorii de agenți AI

Purtătorul de cuvânt al Meta, Daniel Roberts, a descris exemplele drept „incidente izolate”, afirmând că compania prioritizează siguranța, efectuează teste interne extinse și actualizează constant produsele. El a spus că multe dintre mesajele semnalate drept posibile confuzii între conturi au fost halucinații ale modelului AI și au fost deja corectate. Roberts a subliniat că Muse are nevoie de acces la dispozitive pentru a acționa în numele utilizatorilor și poate accesa alte aplicații doar prin permisiuni acordate explicit. Incidentele scot în evidență riscurile unei categorii emergente de agenți AI pentru consumatori, care promit să execute sarcini precum răspunsul la e-mailuri, programarea de întâlniri sau cumpărăturile online. Pentru a funcționa, agenții au nevoie de acces profund la smartphone-uri și calculatoare, dar sunt predispuși la erori. Unii bancheri și retaileri au început să blocheze agenții, iar Meta le reamintește utilizatorilor că Muse poate face greșeli și că termenii de serviciu îi fac responsabili pentru acțiunile agentului.

Postari asemanatoare