Australia acuză OpenAI că un agent AI a spart un portal guvernamental
Guvernul australian a anunțat că un agent AI dezvoltat de OpenAI a accesat neautorizat, în luna iunie, un portal guvernamental de date medicale, obținând acces la fișiere. Incidentul ar putea reprezenta primul caz cunoscut în care un agent AI sparge un site guvernamental, relatează Reuters.
Premierul Anthony Albanese a declarat că agentul OpenAI a obținut acces neautorizat la portalul de statistici medicale al Medicare, programul de asigurare universală de sănătate din Australia, în timp ce efectua cercetări privind cheltuielile medicale publice.
„Dovezile disponibile în acest moment arată că nu există o compromitere mai amplă a rețelei. Cu toate acestea, situația este evident inacceptabilă”, a declarat Albanese reporterilor la New York, unde participă la Adunarea Generală a ONU.
Anchetele continuă, iar Australia și-a exprimat „îngrijorarea extremă față de acest incident” în fața CEO-ului OpenAI, Sam Altman, a adăugat premierul, precizând că a fost dezamăgit de întârzierea companiei în notificarea guvernului.
„A fost nevoie până pe 10 septembrie pentru ca vreo notificare să fie transmisă”, a spus Albanese, adăugând că investigația va examina și de ce sistemele guvernamentale nu au detectat breșa de la început.
El a avertizat de asemenea că alte trei site-uri guvernamentale din domeniul sănătății ar putea fi fost afectate de activitatea agentului OpenAI, dar nu a confirmat că acest lucru s-a întâmplat.
Într-o declarație, OpenAI a afirmat că „analiza sa nu a găsit dovezi că dosarele pacienților au fost accesate”. Compania a adăugat că a „identificat activitate care implică mai multe site-uri și servicii guvernamentale australiene, în timp ce modelele noastre încercau să caute răspunsuri… modelele noastre au întreprins acțiuni pe care nu le-am intenționat”.
Breșa agentului AI alimentează tensiunile dintre Australia și cele mai mari companii de tehnologie deținute de SUA. Canberra a atras deja critici din partea firmelor de social media și a Washingtonului după introducerea unei interdicții mondiale premiere pentru social media pentru copiii sub 16 ani și a unor reguli noi care obligă companiile tech să permită utilizatorilor să dezactiveze conținutul generat de algoritmi în fluxurile lor.
Guvernul australian a înființat o grupă de lucru pentru a investiga breșa și pentru a verifica dacă securitatea cibernetică existentă este adecvată pentru prevenirea unor incidente similare.
Breșa a fost anunțată în aceeași zi în care principalele companii de AI din lume au avertizat Consiliul de Securitate al ONU cu privire la riscurile pe care AI le prezintă pentru umanitate, solicitând guvernelor să colaboreze pentru a gestiona tehnologia tot mai puternică.
Australia s-a confruntat cu o serie de tentative de hacking asupra corporațiilor și firmelor legate de guvern în ultimii patru ani.
Ministrul Apărării, Richard Marles, a declarat că portalul Medicare care a fost spart nu conținea cereri medicale individuale, plăți de beneficii, detalii bancare personale sau istorice medicale ale pacienților din cei 27 de milioane de locuitori ai Australiei.
În schimb, site-ul conține doar date agregate privind utilizarea serviciilor de sănătate la nivel național, a spus el. Cu toate acestea, Australia consideră breșa gravă.
„Existau blocaje care clar reveneau spunând agentului AI «nu». Agentul AI a găsit o modalitate de a ocoli aceste blocaje – nu a acceptat «nu» ca răspuns”, a declarat Albanese reporterilor.
Incidentul este ultimul dintr-o serie de cazuri recente în care producătorul ChatGPT, OpenAI, a dezvăluit spargeri sau activități neautorizate care implică agenții săi AI, la mult timp după ce acestea s-au produs.
Concurenții Anthropic, Gemini de la Google și Meta au dezvăluit de asemenea incidente în care agenții lor au accesat sisteme externe.
Maurice Chiodo, un matematician australian care lucrează la Centrul pentru Studiul Riscului Existențial al Universității Cambridge, a declarat că breșa pare a fi „o escaladare semnificativă a gravității față de incidentele similare pe care le-am văzut în ultimele luni”.
El a adăugat că, deși se vorbește mult despre legi noi privind AI, factorii de decizie trebuie să ia în considerare mai întâi aplicarea celor existente, cum ar fi cele care incriminează intruziunile neautorizate în sistemele informatice.