ChatGPT inventa prove e testimoni: avvocato sanzionato per 5.000$ — cosa devono imparare professionisti e studi legali

Un legale del New Mexico ha depositato in appello dichiarazioni e nomi di testimoni inesistenti generati da ChatGPT. Risultato: 5.000 dollari di multa e segnalazione disciplinare. Un caso che segna il confine tra usare l’AI come assistente e delegarle il ragionamento. E riguarda tutti, non solo gli avvocati.

Il caso: quando uno scritto “perfetto” è completamente falso

Secondo quanto riportato da Reuters, un avvocato del New Mexico ha allegato a un atto di appello per omicidio testimonianze e nomi di testimoni che non sono mai esistiti, generati con ChatGPT e mai verificati. La Corte Suprema dello Stato gli ha inflitto una sanzione di 5.000 dollari e ha segnalato il professionista all’organo disciplinare. Il nodo? Fidarsi della buona forma di una risposta, scambiandola per prova sostanziale.

Il punto non è demonizzare gli strumenti, ma riconoscere un rischio concreto: un testo ordinato, convincente, scritto con sicurezza può “suonare” autorevole anche quando è inventato di sana pianta. Se lo porti in tribunale senza controlli, lo trasformi in un boomerang legale e reputazionale.

Effetto “autorità dello stile”: perché ci caschiamo

La qualità dello stile non è qualità della prova. In determinati ambiti (diritto, sanità, finanza) l’AI può amplificare due bias umani che conosciamo bene:

• Conferma delle proprie tesi: se cerco solo ciò che mi dà ragione, l’AI renderà brillante anche un errore.
• Scorciatoie cognitive: quando il tempo stringe, una risposta ben confezionata sembra “abbastanza buona”. Ma “abbastanza” in aula non basta.

Due modi opposti di usare l’AI: “full AI” vs assistente

C’è una differenza netta tra delegare l’operatività e delegare il pensiero.

“Full AI”: delega del ragionamento (rischio alto)

Dai il problema all’algoritmo, accetti la conclusione e firmi. È la scorciatoia che ha portato all’errore: copia-incolla, zero verifica, massima esposizione al danno.

AI come assistente: delega delle operazioni (uso responsabile)

Tieni tu la regia: formuli l’ipotesi, chiedi all’AI di organizzare materiali, trovare incongruenze, generare contro-argomentazioni, suggerire checklist di verifica. Poi controlli tutto, fonte per fonte. Qui l’AI fa risparmiare tempo, non sostituisce il giudizio.

Linee guida pratiche per studi legali e professionisti

• Verifica incrociata obbligatoria: ogni citazione, ogni nome, ogni testimonianza deve avere fonti primarie tracciabili. Niente fonte, niente firma.
• Richiedi contro-tesi: chiedi all’AI di smontare la tua ipotesi. Il “contraddittorio simulato” riduce il bias di conferma.
• Log di prompt e versioni: conserva prompt e output rilevanti. Serve per audit interni e, se necessario, per la difesa disciplinare.
• Policy interne sull’uso dell’AI: definisci cosa è consentito (bozze, riassunti, ricerche preliminari) e cosa è vietato (produzione di prove/citazioni senza verifica).
• Tracciabilità delle fonti: privilegia strumenti e workflow che forniscono riferimenti verificabili; diffida degli output “assertivi” senza link o citazioni.
• Formazione continua: aggiorna team e collaboratori su limiti, rischi legali e best practice dell’AI generativa.

Responsabilità professionale e tutela del cliente

Qui non c’è solo il destino di un legale: c’è il diritto del cliente a una difesa competente. Quando un professionista porta in aula contenuti falsi, mette a rischio:

• Il giusto processo: la Corte valuta su basi inquinate.
• La fiducia tra assistito e difensore: rapporto difficile da ricostruire.
• La reputazione della categoria: ogni caso-limite diventa precedente sociale, oltre che giuridico.

In scenari del genere entrano in gioco responsabilità deontologica e possibili profili di responsabilità civile. La domanda aperta è semplice: chi risarcisce il danno di un appello indebolito da prove inesistenti? Un contenzioso rischia di perdere credibilità per un errore evitabile.

Le sanzioni bastano a prevenire il prossimo caso?

La multa da 5.000 dollari è il primo segnale visibile; la segnalazione disciplinare potrebbe avere esiti più pesanti. Ma la deterrenza vera non sta solo nella multa: sta nella certezza del controllo. Se il messaggio interno è “firmiamo solo ciò che verifichiamo”, i casi-limite calano. Se passa l’idea che “l’AI ci fa risparmiare fatica di testa”, il rischio resta altissimo.

Per le istituzioni forensi, il tema è attuale: linee guida chiare su citazioni generate da AI, standard minimi di verifica, responsabilità e protocolli di audit potrebbero alzare l’asticella della qualità prima che l’atto varchi la porta del tribunale.

Operazioni vs pensiero: dove stiamo davvero risparmiando?

La domanda chiave è una sola: con l’AI stiamo risparmiando tempo sulle operazioni o stiamo risparmiando fatica sul pensiero? Nel primo caso guadagni efficienza; nel secondo scarichi il rischio su clienti, colleghi e giudici. E quando in gioco ci sono salute, soldi e giustizia, la differenza non è accademica: è sostanziale.

Usare l’AI come assistente significa sfruttarne la velocità senza rinunciare al metodo: tracciare le fonti, cercare il contraddittorio, distinguere tra forma e sostanza. Perché un testo impeccabile può essere una bugia perfetta. E in tribunale le bugie pesano.

👉 Per scoprire tutti i dettagli e l’opinione personale di Mario Moroni, ascolta la puntata completa su Spotify.