Anthropic avertizează că atitudinea guvernului ar putea afecta relațiile cu clienții, arată prospectul de IPO
Compania de inteligență artificială Anthropic a avertizat că atitudinea guvernului față de companie și tehnologia sa ar putea avea implicații mai largi asupra activității sale, inclusiv asupra relațiilor cu clienții comerciali și partenerii, potrivit prospectului de IPO consultat de Reuters.
Deși companiile avertizează în mod obișnuit că schimbările de politică le pot afecta activitatea, în special contractanții guvernamentali, dezvăluirea Anthropic pare mai amplă, sugerând că percepția guvernului asupra companiei și a conduitei sale ar putea depăși relațiile directe și ar putea afecta clienții, partenerii și alte relații comerciale.
Documentul avertizează că inteligența artificială avansată ar putea reprezenta „riscuri catastrofale sau existențiale pentru umanitate”, o avertizare extraordinară din partea unei companii care plănuiește un IPO ce ar putea fi evaluat la 2 trilioane de dolari pentru capacitatea sa de a profita de pe urma aceleiași tehnologii.
Compania a declarat că veniturile din contractele cu agențiile guvernamentale reprezintă mai puțin de 1% din veniturile sale anuale.
Anthropic a devenit un magnet pentru îngrijorările legate de riscurile generate de avansarea rapidă, competiția globală intensă și supravegherea limitată a tehnologiilor de inteligență artificială. Întrebarea generală a siguranței AI a intrat recent în atenția publicului odată cu apelul CEO-ului Anthropic, Dario Amodei, de a încetini dezvoltarea industriei, în urma relatărilor repetate despre activități de hacking ale așa-numiților agenți AI autonomi răzvrătiți.
Amodei s-a întâlnit duminica trecută la cină cu președintele american Donald Trump, pe fondul apelurilor tot mai puternice pentru o reglementare mai strictă a AI. Trump a respins în mare măsură aceste apeluri, deși Comisia Federală pentru Comerț desfășoară o investigație la nivel de industrie asupra firmelor de AI, inclusiv Anthropic, a relatat Reuters miercuri.
În prospect, Anthropic a citat mai multe interacțiuni cu guvernul american din ultimul an ca exemple de acțiuni care ar putea dăuna activității sale.
Documentul a menționat că în februarie președintele a ordonat agențiilor federale să nu mai folosească modelele companiei, iar Departamentul Apărării al SUA a desemnat Anthropic drept un risc pentru lanțul de aprovizionare al securității naționale.
„Compania ar putea înregistra pierderi materiale de venituri sau întreruperi ale activității atribuibile acestor evenimente”, a declarat Anthropic.
Anthropic a mai precizat că în iunie Departamentul Comerțului al SUA a impus restricții de export la nivel mondial pentru modelele sale Fable 5 și Mythos 5, determinând compania să dezactiveze modelele pentru toți clienții pentru a asigura conformitatea.
Deși Departamentul Comerțului a ridicat ulterior aceste restricții și Anthropic a redistribuit modelele, compania a avertizat că acțiuni similare ar putea avea loc în viitor.
Astfel de măsuri ar putea duce la „prejudicii semnificative de reputație, inclusiv acoperire mediatică negativă, scrutin public și percepții negative în rândul clienților existenți și potențiali, partenerilor, angajaților și investitorilor”, indiferent de rezultatul final.
Compania a adăugat că vânzarea către agențiile guvernamentale implică riscuri suplimentare, inclusiv schimbări în viziunea guvernului asupra Anthropic sau a tehnologiei sale.