AI sotto controllo? La bozza di Anthropic che sfida la linea Trump sulla regolazione

Anthropic ha messo sul tavolo una proposta di legge per la sicurezza dell’intelligenza artificiale. Una mossa netta che punta a regolamentare i modelli più avanzati e che contrasta l’idea, sposata da Donald Trump, di “niente nuove leggi sull’AI”. Ecco cosa prevede davvero.

Che cos’è la proposta di Anthropic e perché ora

Secondo quanto rivelato in esclusiva da Politico, Anthropic ha condiviso in via confidenziale con alcuni legislatori statunitensi una bozza di legge per la sicurezza dei modelli di intelligenza artificiale più avanzati. L’idea è definire quando e come lo Stato possa intervenire per sospendere l’uso o il rilascio di un modello ritenuto pericoloso.

Tempismo non casuale: la proposta arriva mentre prende piede la linea “no new AI laws” attribuita a Donald Trump, soprattutto sul tema superintelligenza. In questo scenario, Anthropic sceglie una direzione chiara: fissare regole ex ante per gestire rischi estremi, prima che si trasformino in disastri reali.

Cosa prevede: soglie di rischio e blocco dei modelli

Al centro della bozza ci sono due elementi chiave: la definizione di rischio imminente e prevedibile e soglie oggettive oltre le quali il governo può chiedere di fermare un modello. Le condizioni scattano se il pericolo supera almeno una di queste soglie:

• Oltre 1 miliardo di dollari di danni economici previsti;
• Morte o ferimento grave di più di 50 persone.

La logica è chiara: niente panico per incidenti minori o bug operativi; l’intervento scatta solo davanti a scenari catastrofici. È una cornice pensata per la frontiera dell’AI, non per l’uso quotidiano di chatbot o assistenti.

Chi controlla chi: valutatori “indipendenti” e giudice federale

La proposta istituisce un circuito di controllo a più livelli. Ecco come funziona nelle intenzioni:

• Valutazioni periodiche dei modelli avanzati, affidate a valutatori indipendenti registrati presso il Dipartimento del Commercio degli Stati Uniti.
• Se emerge un rischio imminente che supera le soglie, il valutatore deve notificare il Dipartimento entro 72 ore dalla conclusione della valutazione.
• Il Dipartimento può chiedere a un giudice federale del Distretto di Columbia di sospendere il rilascio o l’utilizzo del modello.

Tradotto: niente “pulsante rosso” in mano a un’agenzia. L’ultima parola spetta comunque a un tribunale federale, per garantire equilibrio tra sicurezza e diritti delle aziende.

Il punto debole: oggi non cambierebbe molto

C’è però un dato che pesa: molti incidenti recenti legati ad agenti AI fuori controllo non avrebbero superato le soglie previste. Danni ingenti? Disservizi? Sì. Ma non oltre il miliardo e, per fortuna, senza vittime. Di fatto, questa legge non affronterebbe i problemi quotidiani di sicurezza e affidabilità che già vediamo. È una cintura di sicurezza per lo scenario peggiore, non un casco per l’uso urbano.

Dove la proposta scricchiola

Indipendenza e competenza dei valutatori

“Indipendenti” ma registrati presso un Dipartimento governativo: chi sono davvero? Se i migliori esperti sono assunti dalle big tech, resta il dubbio che i valutatori esterni non abbiano la stessa preparazione tecnica. Rischio concreto: controlli formali, poco sostanziali.

Velocità vs burocrazia

Finestre di notifica, passaggi agenzia-tribunale, sospensione su ordine di un giudice. È una catena che può fare la differenza tra un intervento tempestivo e un ritardo fatale quando il rischio è “imminente”. L’AI corre; i tribunali, di solito, no.

Soglie troppo alte

Un miliardo di dollari e 50 vite sono limiti pensati per il worst case. Ma il mercato digitale sa moltiplicare gli effetti: un agente che causa piccoli danni su vasta scala può generare impatti sociali cumulativi e pericolosi, senza mai toccare quella soglia.

Perché questa bozza conta comunque

Pur con i suoi limiti, la proposta di Anthropic fa due mosse importanti:

• Porta il dibattito sul terreno operativo: non “se” regolare l’AI, ma “come” intervenire con criteri verificabili.
• Alza l’asticella della responsabilità per chi sviluppa modelli di frontiera, invitando l’industria a definire standard e test condivisi.

In un clima politico che tende al laissez-faire, è un segnale che potrebbe spingere altre aziende a presentare soluzioni concrete. Una strategia di autoregolarizzazione guidata: meglio proporre regole ragionevoli oggi che subire limitazioni domani.

Impatto su aziende e mercato

Se un impianto del genere passasse, cambierebbero tre cose:

• Processi di rilascio più lenti per i modelli di frontiera, con audit esterni e test di robustezza più severi.
• Più trasparenza nelle valutazioni di rischio, almeno verso le autorità.
• Costi di compliance in crescita, che potrebbero favorire i player già capitalizzati e mettere in difficoltà gli sfidanti.

Il rischio collaterale è la concentrazione: se rispettare la legge costa troppo, solo i big reggono l’urto. Di contro, la mancanza di un perimetro minimo sui modelli più potenti espone tutti a rischi sistemici. Dilemma classico: safety vs concorrenza.

Cosa manca (ancora) all’appello

La bozza non risolve tre nodi strutturali:

• Definizioni precise di “modello avanzato” e “rischio imminente”: senza soglie tecniche chiare (capacità di autonomia, accesso a tool esterni, possibilità di escalation), è facile scivolare in interpretazioni arbitrarie.
• Gestione dei rischi intermedi: servono meccanismi rapidi per incidenti sotto soglia, oggi frequenti con gli agenti AI.
• Coordinamento internazionale: un modello fermato negli USA può riemergere altrove. Senza interoperabilità normativa, l’efficacia resta parziale.

In sintesi: la proposta segna un passo in avanti sul fronte del “cosa fare quando tutto rischia di andare storto”. Ma lascia aperto il capitolo “come evitare che inizi ad andare storto”.

Per approfondire l’inchiesta e i dettagli della bozza, leggi l’articolo di Politico.

👉 Per scoprire tutti i dettagli e l’opinione personale di Mario Moroni, ascolta la puntata completa su Spotify.