Quando l’IA inventa i precedenti della Pubblica amministrazione: perché il controllo umano deve entrare nella motivazione
Il problema non è l’errore della macchina, ma l’atto dell’autorità
Un sistema di intelligenza artificiale generativa produce una citazione giurisprudenziale plausibile ma inesistente. Il riferimento viene inserito nella motivazione di una sanzione amministrativa. Il destinatario deve difendersi non soltanto dall’accusa, ma anche da una fonte che non può trovare perché non è mai esistita. Chi ha davvero formato la decisione? Il funzionario che l’ha firmata o uno strumento del quale l’autorità ha accettato l’output senza verificarlo?
La Corte Suprema indiana ha affrontato questa sequenza nell’ordinanza del 2 settembre 2026, Vijay Ghanshyam Gadiya v. Union of India & Anr., 2026 INSC 947. La decisione è breve, ma il problema è di grande portata anche per il dibattito europeo e italiano: l’IA non era stata utilizzata da una parte per preparare una memoria, bensì da un’autorità pubblica nell’ambito di un procedimento sanzionatorio.
Il caso consente di mettere a fuoco una distinzione essenziale. L’uso dell’IA nella Pubblica amministrazione non è vietato e può migliorare tempi, organizzazione e ricerca. Ma l’efficienza non sostituisce la legalità. Quando l’output entra nell’istruttoria o nella motivazione, deve poter essere verificato, contestato e ricondotto alla responsabilità di una persona.
Il caso: una sanzione enorme e precedenti che non esistevano
L’Additional Commissioner of Customs di Surat aveva inflitto al ricorrente una sanzione di 42.527.999.100 rupie (387.000.000 Euro circa) per la contestata falsa dichiarazione di una partita di diamanti naturali come diamanti coltivati in laboratorio, operazione che avrebbe consentito l’applicazione di una tariffa inferiore. L’High Court del Gujarat aveva respinto l’impugnazione.
Davanti alla Corte Suprema, il ricorrente ha sostenuto che diverse decisioni e articoli citati nel provvedimento fossero stati generati mediante IA. Il collegio non si è limitato a registrare l’obiezione: ha controllato individualmente i riferimenti. Dal testo ufficiale risultano tre tipi di anomalie.
Alcuni casi erano inesistenti. Altri presentavano citazioni false. Altri ancora esistevano realmente, ma non contenevano il principio che il provvedimento aveva loro attribuito. Quest’ultima ipotesi è particolarmente insidiosa: una fonte reale può superare un controllo superficiale, mentre la distorsione emerge soltanto confrontando la massima utilizzata con il testo autentico della decisione.
La Corte ha ritenuto superfluo esaminare il merito della contestazione doganale. Ha richiamato il precedente Pooja Ramesh Singh v. Jammu & Kashmir Bank Ltd. e ha ribadito che un atto decisorio fondato, anche indirettamente, su materiale giuridico falso o allucinato non può reggere. Ha quindi annullato sia l’ordine sanzionatorio sia la decisione che lo aveva confermato, disponendo la rinnovazione del procedimento davanti a un funzionario diverso.
Due cautele sono indispensabili. La Corte non ha assolto il destinatario dall’addebito doganale: il procedimento riparte. Inoltre, il testo non identifica il modello utilizzato, i prompt o il percorso tecnico dell’output. La falsità delle fonti è stata verificata; la precisa provenienza tecnologica non è ricostruita nello stesso dettaglio.
Perché non si tratta di un semplice refuso
Un numero di sentenza scritto male può essere corretto se il contesto permette di identificare senza equivoci la fonte. Una decisione inesistente pone un problema diverso. Non offre alcun contenuto controllabile e introduce nella motivazione una premessa fittizia. Una sentenza reale alla quale viene attribuito un principio che non afferma è ancora più pericolosa, perché conferisce un’apparenza di autorità a una proposizione non sostenuta dalla fonte.
L’art. 3 della legge italiana n. 241/1990 richiede che la motivazione indichi i presupposti di fatto e le ragioni giuridiche che hanno determinato la decisione, in relazione alle risultanze dell’istruttoria. La motivazione non serve a ornare il dispositivo: rende comprensibile l’esercizio del potere e permette all’interessato di contestarlo.
Se una ragione giuridica è costruita su un precedente inesistente, il destinatario non può verificare il passaggio. Se il precedente esiste ma dice altro, la motivazione presenta come diritto applicabile ciò che non lo è. In entrambi i casi il difetto può investire non soltanto la forma dell’atto, ma l’istruttoria e la logicità dell’esercizio del potere.
Nel diritto italiano, la qualificazione del vizio dipenderebbe dal ruolo effettivo della fonte falsa: potrebbe emergere una violazione dell’obbligo di motivazione, un travisamento, un difetto di istruttoria o una figura di eccesso di potere. Non è corretto affermare in astratto che ogni citazione errata produca sempre la stessa conseguenza.
La regola italiana: l’IA assiste, la persona decide e risponde
L’art. 14 della legge 23 settembre 2025, n. 132 offre oggi un riferimento espresso. Le pubbliche amministrazioni possono utilizzare l’IA per incrementare l’efficienza, ridurre i tempi e migliorare quantità e qualità dei servizi, assicurando agli interessati la conoscibilità del funzionamento e la tracciabilità dell’utilizzo.
Il comma 2 aggiunge il punto decisivo: l’IA opera in funzione strumentale e di supporto all’attività provvedimentale, nel rispetto dell’autonomia e del potere decisionale della persona, che resta l’unica responsabile dei provvedimenti e dei procedimenti nei quali l’IA è stata impiegata. Il comma 3 richiede misure tecniche, organizzative e formative per un utilizzo responsabile.
Questa disciplina impedisce di trasformare il sistema in un autore occulto. Il funzionario non può considerare l’output come un’autorità esterna che lo esonera dalla verifica. Al contrario, proprio perché la decisione resta imputata alla persona, il controllo deve essere proporzionato alla funzione svolta dall’IA e all’incidenza dell’atto sui destinatari.
Una sintesi interna destinata soltanto a orientare una prima ricerca non presenta lo stesso rischio di una bozza di sanzione. Un sistema che suggerisce parole chiave non equivale a uno strumento che propone fatti, norme e precedenti da inserire nella motivazione. Più l’output si avvicina alla decisione, più deve crescere la qualità del controllo.
Il filo con la giurisprudenza italiana sull’amministrazione algoritmica
Il caso indiano riguarda un sistema generativo, mentre la giurisprudenza italiana più nota si è formata soprattutto su procedure algoritmiche e automatizzate. Il collegamento non deve cancellare questa differenza, ma alcuni principi sono comuni.
Con la sentenza n. 8472 del 13 dicembre 2019, la Sesta Sezione del Consiglio di Stato ha ammesso l’uso dell’algoritmo come modulo organizzativo e strumento procedimentale, sottoposto alle verifiche proprie dell’attività amministrativa. Ha individuato due garanzie minime: conoscibilità del modulo e dei criteri; imputabilità della decisione all’organo titolare del potere, che deve poter controllare logicità e legittimità degli esiti.
Il TAR Campania, Napoli, con sentenza n. 7003 del 14 novembre 2022, ha poi affermato che il ricorso all’algoritmo non può abbassare le tutele procedimentali e che, in questo contesto, l’obbligo di motivazione assume intensità rafforzata. Il processo deve essere conoscibile e comprensibile, così da consentire difesa dell’interessato e sindacato del giudice.
Un modello generativo introduce però un rischio ulteriore. Non applica necessariamente una regola deterministica ricostruibile passo per passo; può produrre testo nuovo, formalmente persuasivo, che combina correttamente alcune informazioni e ne inventa altre. Per questo la sola leggibilità della risposta non coincide con la sua verificabilità.
L’atto sarebbe automaticamente nullo in Italia? No
È qui che la comparazione deve restare prudente. La Corte Suprema indiana ha utilizzato una formula radicale: una decisione contaminata da materiale falso non è una decisione agli occhi della legge. Questa affermazione appartiene al caso e al sistema giuridico indiano.
In Italia, l’art. 21-octies della legge n. 241/1990 stabilisce che è annullabile il provvedimento adottato in violazione di legge o viziato da eccesso di potere o incompetenza. Il secondo comma limita l’annullabilità per alcune violazioni procedimentali o formali quando il provvedimento è vincolato ed è palese che il contenuto non avrebbe potuto essere diverso.
Una citazione inventata non dovrebbe essere liquidata automaticamente come irregolarità innocua. Occorrerebbe verificare se abbia inciso sull’accertamento, sulla qualificazione giuridica, sulla proporzionalità della misura o sulla possibilità di difesa. Quanto più la fonte falsa sorregge un passaggio decisivo, tanto più difficile appare sostenere che il contenuto dell’atto sarebbe rimasto necessariamente identico.
Al tempo stesso, neppure ogni inesattezza può essere trattata come causa inevitabile di nullità. Bisogna distinguere un refuso emendabile da una ragione giuridica inesistente; un richiamo marginale da un presupposto determinante; una bozza mai utilizzata da un output recepito nella motivazione. Il diritto amministrativo richiede un’analisi del vizio concreto, non una sanzione simbolica contro la tecnologia.
Il ruolo dell’AI Act: importante, ma non universale
L’art. 14 del regolamento europeo sull’IA disciplina la supervisione umana dei sistemi ad alto rischio. Richiede che tali sistemi siano progettati e utilizzati in modo da consentire alle persone incaricate di comprenderne capacità e limiti, controllarne il funzionamento, riconoscere il rischio di affidamento eccessivo, interpretare gli output e decidere di ignorarli o invertirli.
Questi obblighi sono molto pertinenti come modello organizzativo, ma il loro campo di applicazione non coincide con ogni uso di un chatbot o di un assistente generativo da parte di un ufficio pubblico. Occorre classificare il sistema e il caso d’uso secondo l’art. 6 e l’Allegato III, tenendo conto delle esclusioni e del testo vigente. Non ogni strumento di ricerca giuridica è automaticamente un sistema ad alto rischio.
La legge italiana n. 132/2025 conserva quindi una funzione autonoma e più generale nel fissare strumentalità, tracciabilità e responsabilità personale nell’attività provvedimentale. Quando poi il sistema ricade anche nel regime high-risk, si aggiungono gli obblighi specifici dell’AI Act.Cosa dovrebbe fare concretamente una Pubblica amministrazione
Il caso suggerisce un protocollo operativo semplice nella logica, anche se impegnativo nell’esecuzione.
Ogni precedente proposto da un sistema generativo dovrebbe essere controllato su una banca dati ufficiale o affidabile. La verifica deve riguardare numero, data, autorità, testo e pertinenza. Non basta trovare una decisione con lo stesso numero: occorre controllare che affermi davvero il principio utilizzato.
L’ufficio dovrebbe distinguere nei propri flussi la generazione della bozza dalla sua approvazione. La persona responsabile deve poter ricostruire quali parti derivano dall’IA, quali fonti sono state verificate e quali modifiche sono state effettuate. La tracciabilità prevista dall’art. 14 della legge n. 132/2025 richiede procedure concrete, non la semplice annotazione “testo controllato”.
Per gli atti sanzionatori o fortemente incidenti sui diritti è opportuno un controllo rafforzato: revisione da parte di un secondo operatore, checklist delle fonti, conservazione dei documenti ufficiali consultati e divieto di citare riferimenti non reperiti nel testo integrale. I dati riservati o personali non devono inoltre essere inseriti in strumenti esterni senza una preventiva valutazione di base giuridica, sicurezza, ruoli e condizioni contrattuali.
Le amministrazioni devono formare il personale non soltanto sull’uso del prompt, ma sui limiti epistemici dello strumento. Una risposta linguisticamente sicura non è una fonte. Chiedere allo stesso modello di verificare la propria citazione non costituisce un controllo indipendente.
Cosa può fare il destinatario di un provvedimento
Un’impresa o una persona che riceve un atto con riferimenti sospetti dovrebbe reperire i testi integrali delle fonti, confrontare le proposizioni attribuite con i passaggi autentici e documentare l’eventuale inesistenza. È utile chiedere accesso agli atti e alle componenti istruttorie rilevanti, formulando richieste specifiche sulla provenienza dei riferimenti e sull’eventuale uso di sistemi automatizzati.
Non ogni omissione informativa dimostra che la decisione sia stata delegata all’IA. L’obiettivo è ricostruire il nesso tra output, istruttoria e motivazione. Se la fonte inventata è marginale, la strategia sarà diversa rispetto al caso in cui essa costituisca il principale fondamento della sanzione.
Devono inoltre essere rispettati i termini e i rimedi propri del procedimento e della materia. Il controllo delle citazioni non sostituisce la contestazione dei fatti, della competenza, della proporzionalità o degli altri vizi dell’atto.
Obiezione: anche gli esseri umani sbagliano
È vero. Un funzionario può citare male una sentenza anche senza usare l’IA. La disciplina non dovrebbe creare una responsabilità oggettiva per il solo impiego della tecnologia.
La risposta, però, è che il rischio generativo ha caratteristiche specifiche: produce riferimenti plausibili in grande quantità, può presentare con la stessa sicurezza una fonte autentica e una inesistente e rende più facile propagare l’errore dalla ricerca alla bozza. L’obbligo di verifica non nasce da un pregiudizio contro l’IA, ma dall’uso che ne viene fatto in un’attività autoritativa.
Una politica di divieto totale sarebbe difficilmente compatibile con le finalità di efficienza riconosciute dal legislatore italiano. Una politica di affidamento informale sarebbe altrettanto debole. La soluzione più solida è una governance proporzionata: classificare i casi d’uso, limitare i dati, verificare le fonti, registrare i passaggi decisivi e mantenere una persona competente nella posizione reale di accettare o respingere l’output.
La decisione Gadiya non detta la regola italiana e non dimostra che ogni provvedimento assistito dall’IA sia sospetto. Dimostra qualcosa di più concreto: quando una fonte inventata entra nella motivazione di un atto pubblico, la questione non riguarda più soltanto l’accuratezza del software. Riguarda legalità, istruttoria, diritto di difesa e imputazione della decisione.
In Italia il quadro è già leggibile. L’art. 14 della legge n. 132/2025 consente l’uso dell’IA come supporto, ma conserva autonomia e responsabilità della persona; l’art. 3 della legge n. 241/1990 pretende ragioni di fatto e di diritto riconoscibili; la giurisprudenza amministrativa richiede conoscibilità, comprensibilità e controllo; l’AI Act aggiunge, per i sistemi ad alto rischio, regole specifiche di supervisione umana.
La firma del funzionario non sana una verifica che non è mai avvenuta. L’IA può accelerare la preparazione dell’atto, ma le fonti, le inferenze e la decisione devono restare controllate e difendibili da una persona. Nella Pubblica amministrazione, il controllo umano non è una formula finale: è parte dell’istruttoria e della motivazione.