L’uso dell’intelligenza artificiale nel procedimento amministrativo: chi e come deve verificare gli output?

DiGiovanni Pascuzzi

8 Novembre 2026
Screenshot

Il 7 novembre 2026 ho partecipato a due sessioni del DIGEAT Festival di Lecce, giunto alla seconda edizione con il titolo «Io Umano. Giorni di un futuro passato» (Lecce e Gallipoli, 5-8 novembre 2026).

Una prima volta sono intervenuto nel laboratorio «IA e data protection nel mondo PA e soggetti pubblici», che si è tenuto nella Sala Teatrino dell’Ex Convitto Palmieri. Coordinava Michele Iaselli; oltre a me sono intervenuti Serena Deplano, Giovanni Battista Gallus e Morena Ragone. [Dell’altra sessione nella quale sono intervenuto riferisco in un altro post].

Il moderatore ci ha rivolto due giri di domande e una domanda finale comune. Di seguito una sintesi delle cose che ho detto.

 

Prima domanda. La legge n. 132 del 2025 lascia alla persona la responsabilità del provvedimento: come si accerta che il controllo umano sia stato effettivo e non una semplice ratifica?

L’art. 14, comma 2, della legge 23 settembre 2025, n. 132, stabilisce che l’intelligenza artificiale opera nella pubblica amministrazione «in funzione strumentale e di supporto all’attività provvedimentale», e che la persona resta «l’unica responsabile» dei provvedimenti. Se la persona risponde dell’atto, deve saper verificare ciò che lo strumento le ha proposto. Che cosa deve verificare, esattamente? Dipende da tre variabili.

La prima variabile è il sistema usato e ciò che produce. Conviene distinguere:

  • i sistemi deterministici, che applicano regole o formule e, a parità di dati, danno sempre lo stesso risultato: calcoli, punteggi, graduatorie;
  • i sistemi che apprendono dai dati, che classificano, selezionano, segnalano, stimano un rischio;
  • i sistemi generativi, che scrivono bozze, sintetizzano documenti, cercano norme e precedenti, e che non sono deterministici.

Conta ciò che l’output porta nell’atto. Secondo l’art. 3 della l. n. 241/1990 la motivazione deve indicare «i presupposti di fatto e le ragioni giuridiche» della decisione. Un output può servire ad accertare i fatti, a individuare la regola, ad applicare la regola ai fatti, a selezionare ciò che verrà esaminato, a scrivere il testo. Ogni funzione chiede una verifica diversa.

La seconda variabile è il tipo di potere esercitato. Nell’esercizio del potere vincolato contano i fatti e la regola: se sono individuati correttamente, l’atto è legittimo. Nell’esercizio del potere discrezionale conta la motivazione perché evidenzia la ponderazione degli interessi. Nell’esercizio della discrezionalità tecnica contano i criteri, da fissare prima di configurare lo strumento.

La terza variabile sono i soggetti coinvolti. Quando nel procedimento amministrativo viene usata l’IA, vengono in rilievo almeno tre figure:

  • chi governa il sistema, cioè la struttura che sceglie e configura lo strumento, ne verifica la natura e predispone i mezzi per conservare traccia di ciò che accade;
  • chi istruisce (il responsabile del procedimento) che qualifica il caso concreto e verifica fatti, dati e norme;
  • chi firma: è il soggetto che “risponde” dell’atto.

Alcune verifiche si fanno una volta e a monte, altre solo sul singolo atto. Attribuirle tutte a chi firma significa chiedergli ciò che non è in grado di fare.

Come si verificano gli output, allora? Ho proposto tre verifiche, ciascuna con la propria cadenza:

  • la regola si verifica una volta, regola per regola, con casi di prova e casi limite. Qui l’eventuale errore sta nel programma e si ripete in ogni pratica: basta scoprirlo una volta, prima di usare lo strumento. Nel caso deciso dal Consiglio di Stato con la sentenza n. 6556 del 2025 l’algoritmo era costruito su un presupposto sbagliato, e sbagliava per tutti;
  • il caso si verifica quando ha qualcosa di particolare. Qui la regola è programmata bene, ma la singola pratica presenta qualcosa che il sistema non vede, e l’errore riguarda solo quella. Nei casi decisi dal TAR Lazio (n. 1895 del 2026) e dal TAR Lombardia (n. 1602 del 2026) la riserva era programmata correttamente, ma il candidato aveva dichiarato il requisito fuori dalla casella prevista, e il sistema non l’aveva letto. Nessun controllo fatto una volta per tutte intercetta un errore di questo tipo;
  • il testo generato dall’intelligenza artificiale generativa deve essere puntualmente verificato ogni volta. La verifica può essere condotta ponendosi quattro domande: 1. che cosa afferma? 2. su quale atto del fascicolo si regge? 3. che cosa è un dato e che cosa un’inferenza? 4. che cosa lo smentirebbe?

Chiedere all’IA di controllarsi da sola non è una verifica.

Infine, ogni verifica deve lasciare traccia, altrimenti non si può provare. Il log del sistema registra che un intervento umano c’è stato; il fascicolo deve dire in che cosa è consistito. Vanno conservati l’output ricevuto, le istruzioni date al sistema, la propria valutazione e i casi in cui ci si è discostati. Una sorveglianza che non si discosta mai non si distingue, dall’esterno, da una sorveglianza che non c’è stata.

Ho aggiunto che chi verifica deve trovarsi nelle condizioni di farlo davvero. Le condizioni sono tre:

la competenza, che richiede anzitutto la conoscenza della materia, oltre a quella dello strumento;

l’autorità e il sostegno: il potere di discostarsi dall’output, il tempo necessario a fare davvero la verifica, l’accesso ai dati e alla documentazione;

l’indipendenza: chi dissente dall’output non deve subirne conseguenze sfavorevoli, né essere valutato sui risultati del sistema che controlla.

 

Seconda domanda. Quando l’errore nasce dall’algoritmo, quale vizio colpisce il provvedimento amministrativo?

I vizi sono quelli consueti. Cambia il punto in cui nascono. Alcuni si vedono confrontando l’atto con il fascicolo e con la norma. Altri stanno nel modo in cui l’output è stato prodotto, e per vederli occorre sapere come funziona lo strumento. La giurisprudenza amministrativa offre una prima casistica utile:

  • strumento inadeguato: il TAR Calabria (n. 1473 del 2026) ha annullato l’esclusione di un Comune da un finanziamento regionale, decisa sulla base di un software antiplagio pensato per contesti accademici, senza che nessuno ne verificasse l’output;
  • criteri sostituiti dalla piattaforma: il TAR Abruzzo (n. 240 del 2025) ha ricordato alla commissione che doveva comunque «predeterminare i criteri valutativi», anche se si era affidata alle funzioni della piattaforma;
  • regole di calcolo sconosciute: il TAR Catania (n. 1157 del 2026) ha annullato un’aggiudicazione perché l’amministrazione non conosceva le regole con cui la piattaforma aveva calcolato i punteggi;
  • fatti e dati: il TAR Lazio (n. 1895 del 2026) e il TAR Lombardia (n.  1602 del 2026) hanno esaminato casi in cui il sistema non aveva riconosciuto ai candidati la riserva che spettava loro, perché il requisito era stato dichiarato fuori dalla casella prevista;
  • regola tradotta male: il Consiglio di Stato (n. 6556 del 2025) ha esaminato un algoritmo costruito su un presupposto implicito sbagliato;
  • caso fuori schema: il TAR Friuli-Venezia Giulia (n. 329 del 2021) ha chiesto una «fuoriuscita» dal procedimento automatizzato quando il singolo caso presenta circostanze specifiche;
  • testo generato: il TAR Puglia (n. 956 del 2026) ha affermato che le minute prodotte da un sistema generativo devono essere «esaminate, emendate e convalidate» dal titolare del potere, e che l’errore dell’output è di chi lo recepisce; il TAR Marche (n. 758 del 2026) ha ricordato che sul dirigente ricade la verifica degli atti del procedimento.

Domanda finale. Se poteste chiedere una sola cosa, al legislatore, al Garante o ad AgID, per i prossimi dodici mesi, quale sarebbe?

Al legislatore chiederei di aggiornare la legge n. 241 del 1990, disciplinando un ulteriore passaggio del procedimento: la fase della verifica dell’output nelle ipotesi in cui durante il procedimento sono stati usati strumenti di intelligenza artificiale.

Oggi il controllo umano è un principio. L’art. 14 della legge n. 132 del 2025 dice che la persona resta responsabile, ma non dice come quella responsabilità si esercita concretamente nel procedimento.