Z.ai dezactivează funcții ale asistentului de codare AI după un incident de securitate
Compania chineză Z.ai, cunoscută și sub numele de Zhipu, a anunțat luni că a dezactivat anumite funcții ale asistentului său principal de codare AI, după ce mai mulți utilizatori au reclamat că acesta încărca integral depozite locale de cod pe servere cloud din străinătate fără consimțământul lor.
Incidentul a fost semnalat săptămâna trecută de dezvoltatori chinezi pe rețelele sociale, care au scris că instrumentul ZCode le-a încărcat datele de cod de pe platforma open-source Git către Alibaba Cloud. Compania, cu sediul la Beijing, și-a cerut scuze într-o postare pe rețelele sociale și a precizat că problema a provenit de la funcția „Codebase Indexing” a ZCode, activată implicit, și că vulnerabilitatea software a fost remediată.
„Vom stabili un proces continuu de raportare și răspuns la vulnerabilități de securitate ale produselor”, a transmis Z.ai într-o postare separată pe contul oficial ZCode de pe platforma X.
Evaluare independentă și reacții din partea dezvoltatorilor
Z.ai își ceruse scuze inițial vineri și anunțase că datele au fost șterse, însă utilizatorii au susținut că informațiile erau criptate cu o cheie privată de backend deținută exclusiv de companie, ceea ce însemna că nu își puteau deschide sau verifica fișierele încărcate și nici nu puteau confirma în mod independent ștergerea acestora.
Dezvoltatorii au scris pe X și pe platforma chineză RedNote că nu exista nicio opțiune de dezactivare a funcției și că aceasta nu era menționată în politica de confidențialitate a companiei. Compania Chengming Technology a declarat vineri pe rețelele sociale că șase dintre spațiile sale de lucru pentru codare au fost încărcate pe cloud fără consimțământ de către ZCode, inclusiv date sensibile precum cod sursă complet, parole de baze de date și informații personale ale angajaților. Luni, Chengming Technology și-a retractat declarația, afirmând că a avut „dovezi greșite”.
Z.ai a anunțat luni că a publicat ca open-source asistentul de codare care rulează cel mai recent model AI GLM-5.3 și a dezactivat anumite funcții, angajându-se să facă produsul mai transparent. „Încurajăm dezvoltatorii să continue să analizeze ZCode și să raporteze potențiale probleme”, a transmis compania.
Potrivit Z.ai, o evaluare independentă de securitate realizată de un think tank de standarde IT afiliat ministerului chinez al industriei și de firma chineză de securitate cibernetică NSFOCUS a constatat că datele de cod ale utilizatorilor au fost șterse și nu au fost reținute de platforma cloud. Compania a precizat că a activat o funcție de retenție zero a datelor pentru asistentul de codare utilizat de dezvoltatori și întreprinderi din domeniul tehnologic.
„Ne cerem din nou scuze sincere și salutăm analiza continuă din partea comunității. Raportul complet de evaluare a securității va fi publicat în curând”, a scris Z.ai luni.
Context mai larg privind securitatea AI
Această dezvăluire publică rară a unei breșe de securitate din partea unui laborator chinez de AI are loc în contextul avertismentelor globale privind riscurile de securitate ale AI de frontieră și după ce mai multe companii americane lider în domeniul AI au anunțat în ultimele săptămâni incidente de hacking AI și de agenți AI „rebeli”.
Autoritatea chineză de reglementare cibernetică a publicat săptămâna trecută o politică actualizată privind cadrul de siguranță AI, avertizând despre rezistența modelelor AI la oprire, inducerea în eroare a evaluatorilor și evadarea din sandbox. Luna trecută, Z.ai a anunțat că modelul său GLM-5.3 se apropie de modelul Mythos al Anthropic în identificarea vulnerabilităților software și l-a lansat după o revizuire de două săptămâni, devenind primul laborator chinez care întârzie în mod explicit lansarea unui model AI din motive de siguranță.