Firmă de cercetare: agenți AI au încercat să spargă un site al guvernului canadian
O firmă de cercetare în domeniul inteligenței artificiale a declarat că agenți AI au încercat să spargă un site web al guvernului canadian, calificând demersul drept o tentativă de hacking eșuată, în timp ce autoritățile canadiene au precizat că nu există indicii că sistemele lor ar fi fost compromise.
Firma de cercetare Transluce a afirmat că tentativele au prezentat tactici „consistente cu activitatea anterioară a agenților pe care am atribuit-o OpenAI într-un interval de timp similar”. Cu toate acestea, firma a adăugat că nu atribuie cu certitudine aceste tentative OpenAI.
Potrivit Transluce, agenții au încercat să acceseze Library and Archives Canada pe 28 mai și pe 9 iunie. Firma a precizat că a dezvăluit acțiunea guvernului canadian luni.
Centrul Canadian pentru Securitate Cibernetică a declarat marți că este la curent cu rapoartele privind o posibilă activitate a agenților AI. „Nu există nicio indicație că sistemele guvernamentale au fost compromise în acest moment”, se arată într-un comunicat.
„Nu atribuim cu certitudine aceste tentative OpenAI, dar ele prezintă tactici consistente cu activitatea anterioară a agenților pe care am atribuit-o OpenAI într-un interval de timp similar”, a transmis Transluce.
OpenAI a declarat că este „la curent cu rapoartele privind modele OpenAI care încearcă să acceseze informații disponibile public de pe site-uri ale guvernului canadian”. Un purtător de cuvânt a spus că OpenAI analizează constatările raportate și a oferit un briefing inițial oficialilor canadieni care desfășoară evaluarea guvernamentală.
Guvernele, în dificultate în a ține pasul cu avansul IA
Marile companii de inteligență artificială din lume au avertizat cu privire la riscurile pe care IA le reprezintă pentru umanitate, cerând guvernelor să colaboreze pentru a gestiona această tehnologie tot mai puternică. Guvernele din întreaga lume s-au străduit să țină pasul cu progresele rapide din domeniul IA.
Serviciul online gratuit arquivo.pt, arhiva web națională a Portugaliei, operată de Fundația Portugheză pentru Știință și Tehnologie, a înregistrat 899 de cereri care au vizat serviciul „collection-search” al Library and Archives Canada, inclusiv o serie de tentative de hacking rudimentare aparent eșuate, pe 28 mai și 9 iunie, potrivit Transluce.
Mai multe breșe recente la nivel global, produse de agenți AI rătăciți, au alarmat guverne și companii.
Săptămâna trecută, Australia a declarat că un agent OpenAI a spart în iunie un portal guvernamental de date despre sănătate, obținând acces neautorizat la fișiere, într-un caz descris drept prima instanță cunoscută în care un agent AI sparge un site web guvernamental.
OpenAI a cerut marți scuze pentru spargerea site-ului guvernului australian de către agentul AI rătăcit.