Errori generati dall’IA nei documenti giudiziari portano a problemi legali per gli avvocati

Un rapporto condiviso da Reuters ieri rivela che le allucinazioni dell’IA – errori e informazioni inventate create dai modelli generativi dell’IA – stanno causando problemi legali nei tribunali negli Stati Uniti.

Questo mese, lo studio legale Morgan & Morgan ha inviato un’email di avvertimento a oltre 1.000 avvocati riguardo i rischi dell’utilizzo di chatbot e casi falsi generati dall’intelligenza artificiale.

Qualche giorno fa, due avvocati del Wyoming hanno ammesso di aver incluso nei loro atti di citazione per una causa contro Walmart, dei casi fasulli generati da AI, e un giudice federale ha minacciato di sanzionarli.

A dicembre, il professore di Stanford e esperto di disinformazione Jeff Hancock è stato accusato di utilizzare l’AI per creare citazioni false di dichiarazioni giudiziarie come parte della sua difesa riguardo alla legge statale del 2023 che criminalizza l’uso di deepfake per influenzare le elezioni.

Diversi casi come questi, negli ultimi anni, hanno causato attriti legali e aggiunto problemi a giudici e litiganti. Morgan & Morgan e Walmart hanno rifiutato di commentare su questa questione.

L’IA generativa è stata di aiuto nel ridurre il tempo di ricerca per gli avvocati, ma le sue “allucinazioni” possono comportare costi significativi. L’anno scorso, un sondaggio di Thomson Reuters ha rivelato che il 63% degli avvocati utilizzava l’IA per il lavoro e il 12% lo faceva regolarmente.

L’anno scorso, l’American Bar Association ha ricordato ai suoi 400.000 membri le regole etiche degli avvocati, che includono l’obbligo per gli avvocati di sostenere tutte le informazioni contenute nei loro atti giudiziari, e ha sottolineato che ciò includeva anche le informazioni generate dall’IA, anche se era involontario, come nel caso di Hancock.

“Quando gli avvocati vengono scoperti ad utilizzare ChatGPT o qualsiasi altro strumento di IA generativo per creare citazioni senza verificarle, questa è incompetenza, pura e semplice,” ha dichiarato Andrew Perlman, preside della Facoltà di Giurisprudenza dell’Università di Suffolk a Reuters.

Qualche giorno fa, la BBC ha condiviso un rapporto che avverte riguardo le citazioni finte generate dall’IA e i problemi con gli strumenti di IA nel giornalismo.