Larga eco sta avendo un articolo pubblicato da Dario Amodei, che ha fondato e dirige Anthropic, l’azienda che produce Claude, uno dei modelli più diffusi di intelligenza artificiale (https://darioamodei.com/post/we-must-pace-the-frontier) [pdf]. Amodei sostiene che occorre rallentare il ritmo con cui crescono le capacità dei modelli di IA in modo da avere più tempo per prevenire i rischi cui questi sistemi ci espongono. L’autore propone una strategia in tre passaggi: (i) insediare nelle imprese di IA dei valutatori terzi; (ii) propiziare delle intese fra le imprese dei paesi democratici sul ritmo di sviluppo dell’IA; (iii) arrivare ad accordi internazionali globali coinvolgendo anche paesi come la Cina. Sam Altman ed Elon Musk (rispettivamente a capo di OpenAI, che produce ChatGPT, e di xAI, che produce Grok) hanno dichiarato di condividere la proposta di Amodei.
A. Di cosa parliamo. L’espressione “intelligenza artificiale” dovrebbe essere usata al plurale perché individua cose anche molto diverse tra loro: il software che legge una radiografia, il sistema che segnala una transazione sospetta, il programma che prevede il guasto di un macchinario. Amodei si occupa di una cosa sola ovvero dei modelli generativi di grandi dimensioni, addestrati su enormi quantità di testo e di codice, e dei sistemi agentici costruiti su di essi: programmi che usano il modello come motore decisionale e gli danno strumenti: eseguire codice, navigare, lavorare per ore senza supervisione, coordinarsi con altre copie di se stessi. Al momento i modelli più capaci di questa categoria richiedono capacità di calcolo dell’ordine dei miliardi di dollari e solo poche imprese sono in grado di produrli. Questi strumenti non sono programmati ma sono addestrati: il loro comportamento emerge da un processo statistico che nessuno precodifica riga per riga. Per questo sorge la necessità del loro “allineamento” (occorre fare in modo che il sistema persegua quello che chi lo costruisce voleva, anche in situazioni che nessuno aveva previsto) e della loro “interpretabilità” (studio di ciò che accade dentro il modello mentre risponde per sapere perché ha risposto così).
B. I pericoli. Amodei ne indica tre: (i) l’uso doloso: chi vuole violare sistemi informatici o fabbricare armi biologiche trova nel modello un aiuto potente; (ii) la perdita di controllo: nell’estate del 2026 agenti di OpenAI hanno aggirato il meccanismo che doveva giudicarli e attaccato bersagli non richiesti, e Anthropic ha riferito tre episodi propri, con un modello che dall’ambiente di prova ha raggiunto la rete Internet; (iii) gravi sconvolgimenti economici (citati senza un vero approfondimento). Gli episodi prima richiamati mostrano ostinazione su un obiettivo ristretto e capacità di eludere i controlli, non pianificazione contro esseri umani. Amodei sostiene che entro sei o dodici mesi uno sciame analogo potrebbe impadronirsi di Internet, ma presenta l’ipotesi come una propria preoccupazione, senza prove. Per la verità esiste anche un altro rischio: una macchina dichiaratamente ostile non è la soglia del pericolo perché bastano la delega di funzioni decisionali a sistemi che nessuno comprende del tutto e la dipendenza di servizi essenziali da infrastrutture private concentrate per dar corpo a scenari non tranquillizzanti.
C. Il governo della tecnologia. Dell’articolo di Amodei colpisce il fatto che sia il produttore dei sistemi a proporre nuove possibili regole. Chi produce la tecnologia ha un ruolo che nessun altro può assumere: conosce i sistemi dall’interno e ne misura le capacità prima di chiunque. Quel sapere serve al legislatore, e va preteso come obbligo di informazione, accesso ai dati di valutazione, responsabilità per ciò che si dichiara. Ma altra cosa è lasciare al produttore il contenuto delle regole. L’articolo in nessun punto dice: “io rallento perché è doveroso, qualunque cosa accada alla mia azienda”. Dice: “rallentiamo tutti”. Amodei chiede sostanzialmente due cose: (i) che imprese concorrenti possano accordarsi sul ritmo di sviluppo, con una mediazione pubblica ovvero attraverso la concessione di una deroga alla legislazione antitrust che tali intese vieta; (ii) che il rallentamento non superi mai la soglia oltre la quale si perde il vantaggio tecnologico sulla Cina. Ma nessuna delle due richieste coincide necessariamente con l’interesse generale: la prima allenta la concorrenza in un mercato già concentrato (significativo che, come detto, i principali concorrenti di Anthropic abbiano dichiarato di condividere la proposta anche se il presidente degli Stati Uniti ha respinto l’invito a rallentare, dicendo che non intende cedere alla Cina il vantaggio tecnologico), la seconda fa della sicurezza una funzione della posizione di vantaggio, mentre un ordinamento giuridico deve prevenire il danno atteso. Il regolamento europeo sull’intelligenza artificiale (2024/1689) non a caso sceglie una strada diversa e gradua i sistemi di IA sul rischio che generano, vietando del tutto quelli che pongono rischi inaccettabili; per i modelli per finalità generali con rischio sistemico, la categoria in cui rientrano quelli di cui Amodei parla, detta obblighi rafforzati. Amodei il regolamento europeo non lo nomina nemmeno.
D. Cosa fare comunque. Il fondatore di Anthropic parla di strumenti di frontiera. Ma “le intelligenze artificiali” sono già nella vita quotidiana: i sistemi di lettura delle immagini diagnostiche affiancano il radiologo negli screening, i robot assistivi sono usati nella riabilitazione e nell’assistenza alle persone più vulnerabili, la traduzione e la sottotitolazione automatiche hanno abbassato barriere linguistiche e sensoriali, la predizione della struttura delle proteine ha cambiato la ricerca farmacologica. Il discorso sui pericoli dei sistemi IA di frontiera rischia di travolgere tutto questo, e di lasciare in ombra i compiti ineludibili: insegnare e imparare l’uso proficuo di questi strumenti, a scuola, all’università, nelle professioni, nelle imprese e negli uffici pubblici. Chi sa che cosa un sistema può fare, che cosa non sa fare e dove sbaglia è anche il cittadino meglio attrezzato a chiedere conto a chi lo produce. La competenza diffusa è una forma di controllo, e non è delegabile a nessuno.
Post articolo
Articoli correlati