Curtea Supremă din New Mexico sancționează un avocat care a folosit mărturii false generate de ChatGPT
Un avocat din Santa Fe, Stephen Aarons, a fost amendat cu 5.000 de dolari și sancționat pentru dispreț de către Curtea Supremă din New Mexico, după ce a depus un memoriu de apel într-un caz de crimă care conținea mărturii fabricate și martori inexistenți, generați de programul de inteligență artificială ChatGPT, potrivit unei decizii a instanței de miercuri.
Instanța a constatat că documentul depus de Aarons „conținea mărturii false de la martori complet fabricați”. De asemenea, judecătorii au reținut că avocatul a „demonstrat o lipsă de remușcare și o lipsă de preocupare față de clientul său” și au anunțat că îl vor sesiza comisiei de disciplină a avocaților pentru investigații suplimentare.
Aarons apăra recursul lui Oscar Renee Sandoval, condamnat anul trecut la închisoare pe viață pentru uciderea mamei copiilor săi. Acesta pledase nevinovat. Apelul este încă în curs de soluționare și a fost repartizat pe 2 septembrie avocatei din oficiu Kim Chavez Cook, care a refuzat să comenteze. Nici biroul procurorului din comitatul Doña Ana nu a oferit declarații.
Într-o declarație pentru presă, Aarons a explicat că a folosit ChatGPT pentru a rezuma procedurile procesului atunci când a preluat apelul anul trecut și că nu a înțeles în ce măsură inteligența artificială poate „halucina” fapte. „Îmi pare rău, dar sper că comisia de disciplină va ține cont că a fost o greșeală neintenționată”, a spus el. „Este o lecție învățată pentru toți profesioniștii care se bazează pe această tehnologie puternică, dar uneori instabilă.”
OpenAI, compania care dezvoltă ChatGPT, nu a răspuns imediat unei solicitări de comentarii.
Curtea Supremă a statului l-a întrebat pe Aarons, luna trecută, cum a ajuns în memoriul său principal material fabricat, care includea, potrivit instanței, „declarații fictive potrivit cărora trăgătorul purta pantaloni închiși și o cămașă albă”. La o audiere din 21 august, avocatul a declarat că a introdus în ChatGPT o transcriere generată de computer și alte materiale ale cazului, presupunând că programul va produce „un rezumat de nezdruncinat”.
Judecătorii au părut neîncrezători că Aarons nu era pe deplin conștient de modul în care AI poate greși. „Domnule avocat, urmăriți știrile? Ascultați radioul? Citiți ceva despre ce se întâmplă în lume?”, a spus judecătoarea C. Shannon Bacon la audiere. „Pentru că problema avocaților care se bazează pe halucinațiile AI este o știre de prima pagină în fiecare zi.”
Sancțiunea aplicată de Curtea Supremă din New Mexico se adaugă unei serii tot mai mari de cazuri în care judecători statali și federali au sancționat avocați pentru depunerea de documente generate de instrumente de inteligență artificială fără o verificare adecvată. Zeci de avocați au fost sancționați pentru memorii în care AI a inventat citate din jurisprudență sau a citat greșit legea. Cazul lui Aarons pare să meargă mai departe, conținând mărturii fabricate ale unor martori într-un apel penal.