Moonshot AI limitează capabilitățile de hacking în noul model Kimi, pe fondul temerilor privind atacurile cibernetice asistate de inteligența artificială
Compania chineză Moonshot AI a redus capabilitățile ofensive cibernetice ale celui mai nou model al său, a anunțat startup-ul, în contextul în care cresc îngrijorările că inteligența artificială din ce în ce mai autonomă ar putea amplifica atacurile de hacking. Anunțul a fost făcut odată cu prezentarea modelului Kimi K3.1 Pro, descris de companie drept cel mai performant model open-weight al său, din clasa a 3 trilioane de parametri.
Moonshot, cu sediul la Beijing, intenționează să publice ponderile modelului — fișierele care permit dezvoltatorilor externi să îl ruleze și să îl modifice pe sisteme proprii — până pe 4 noiembrie. Compania a precizat că a eliminat datele legate de securitatea cibernetică din corpusul de antrenament și din mediile de învățare prin întărire folosite pentru dezvoltarea modelului, păstrând însă competențele generale de programare.
„Ne propunem să nu publicăm ponderi deschise care ar extinde frontiera absolută a capabilităților cibernetice”, a transmis compania. Guvernele, companiile de tehnologie și cercetătorii în securitate sunt tot mai îngrijorați că inteligența artificială ar putea face hackingul sofisticat mai ușor și mai ieftin. Modelele care pot scrie cod, opera instrumente software și finaliza sarcini lungi, cu multiple etape, pot ajuta utilizatorii să identifice vulnerabilități în programe și să automatizeze părți ale atacurilor cibernetice.
Săptămâna trecută, China a propus controale la export care ar interzice exporturile de tehnologie AI pentru generarea și mutarea de malware și ar restricționa instrumentele asistate de AI pentru descoperirea vulnerabilităților. Proiectul de măsuri, aflat încă în consultare publică, invocă riscul ca astfel de capabilități să fie folosite împotriva infrastructurii critice, a sistemelor din industria de apărare și a celor guvernamentale esențiale, sau pentru a ocoli protecțiile de securitate.
Moonshot a declarat că modelele open-weight pot îmbunătăți securitatea, ajutând mai multe organizații să își inspecteze și să își protejeze propriul software, inclusiv sistemele mai vechi care primesc puțină atenție. Spre deosebire de sistemele AI proprietare, cu ponderi închise, lansările open-weight fac însă supravegherea centralizată mai dificilă. Odată ce fișierele sunt distribuite pe scară largă, dezvoltatorul original are mai puțină capacitate de a restricționa accesul, de a monitoriza utilizarea sau de a actualiza măsurile de protecție decât în cazul unui serviciu găzduit.
K3.1 Pro a obținut 81,0% pe benchmarkul intern de securitate cibernetică al companiei, comparativ cu 90,5% pentru o versiune similară fără măsurile de reducere a riscurilor, a precizat Moonshot. Testul a implicat identificarea și exploatarea vulnerabilităților software într-un mediu controlat. Compania a afirmat că comparația arată că filtrarea datelor legate de securitatea cibernetică a redus performanța ofensivă a modelului, deși acesta rămâne superior predecesorului său. Rezultatele nu au fost verificate independent.
K3.1 Pro are o fereastră de context de un milion de tokeni, ceea ce îi permite să proceseze cantități foarte mari de text simultan. Moonshot a lansat și o versiune mai rapidă, K3.1 Pro Highspeed, despre care compania spune că rulează de două ori până la de trei ori mai repede decât modelul standard.