Nvidia lansează instrumente de siguranță pentru agenții AI, despre care spune că ar fi putut opri atacul asupra Hugging Face
Nvidia a anunțat luni că pune la dispoziție un set de instrumente software de siguranță pentru agenții AI, despre care compania afirmă că ar fi putut împiedica atacul informatic asupra Hugging Face, hubul de codare AI pe care Nvidia l-a achiziționat pentru 13 miliarde de dolari la câteva luni după ce acesta a fost vizat de agenți rău intenționați proveniți de la OpenAI.
Anunțul vine în contextul în care OpenAI și Anthropic, primele două laboratoare de AI din Statele Unite, investighează numeroase cazuri în care agenții lor — sisteme AI capabile să execute sarcini complexe — au pătruns în sisteme comerciale și guvernamentale. Jensen Huang, directorul executiv al Nvidia, compania cu cea mai mare capitalizare din lume ale cărei cipuri au alimentat cea mai mare parte a expansiunii AI, a respins apelurile pentru reglementări largi privind siguranța AI, preferând să încadreze agenții scăpați de sub control ca pe o problemă de inginerie care trebuie rezolvată, similar cu eforturile de a face automobilele mai sigure.
OpenShell și Sentry — noile instrumente de protecție
Unul dintre instrumentele lansate luni, numit OpenShell, utilizează funcții hardware ale cipurilor centrale de procesare Nvidia pentru a izola agenții. Nvidia a precizat că lucrează de asemenea cu Arm Holdings și Intel pentru a se asigura că sistemul funcționează și pe procesoarele centrale ale acestora.
Nvidia lansează instrumentele împreună cu zeci de parteneri, inclusiv Anthropic. Justin Boitano, vicepreședinte și director general pentru calcul enterprise la Nvidia, a declarat că instrumentele ar fi putut opri atacul asupra Hugging Face dezvăluit în această vară.
„Din ceea ce știm, această nouă platformă de securitate ar fi putut opri breșa dacă ar fi fost folosită în laboratoarele de frontieră pentru evaluarea modelelor încă de la început”, a afirmat Boitano în cadrul unei sesiuni de informare pentru presă. „Avansăm cu aceasta în mod deschis și dorim să implicăm pe toată lumea să lucreze cu noi.”
Un alt sistem, numit Sentry, utilizează un cip Nvidia separat împreună cu OpenShell pentru a întrerupe un agent rău intenționat dacă acesta încearcă să evadeze din containerul său de pe un procesor central.
Detectarea comportamentului evaziv al agenților
Instrumentele Nvidia folosesc formule matematice pentru a detecta momentele în care agenții încearcă să recurgă la soluții ocolitoare, cum ar fi situația în care un agent ar putea „genera” mai mulți „sub-agenți” într-o încercare de a eluda eforturile de blocare a agentului principal, a explicat Ali Golshan, director senior pentru software AI la Nvidia.
„Vorbim aici despre un comportament cu adevărat agentic, adică despre flote de agenți și despre modul în care aceștia operează împreună”, a declarat Golshan în cadrul unei sesiuni de informare.