Responsabilità e prova nell’IA: cosa ci insegnano le nuove regole cinesi, viste da qui
Quando la governance finisce in tribunale
Con l’intelligenza artificiale i problemi non nascono solo prima, sul tavolo della compliance. Nascono anche dopo, quando qualcosa va storto: un output danneggia una persona, un sistema è coinvolto in un incidente, un algoritmo tratta un cliente peggio di un altro, un modello viene accusato di aver “mangiato” contenuti protetti da copyright. A quel punto la domanda cambia registro e diventa tutta processuale: chi deve rispondere? Cosa bisogna dimostrare? E soprattutto, chi ha in mano i documenti necessari per ricostruire l’accaduto?
È esattamente qui che si inserisce il testo pubblicato il 7 settembre 2026 dalla Corte suprema del popolo cinese: le Opinions on the Lawful Adjudication of Disputes Involving Artificial Intelligence, sigla Fa Fa [2026] 10. Ventiquattro disposizioni, cinque parti, un raggio d’azione piuttosto ampio: responsabilità civile, diritti della personalità, dati personali, tutela dei consumatori, veicoli automatizzati, proprietà intellettuale, dati di addestramento, prova e — capitolo tutt’altro che secondario — uso dell’IA negli atti processuali.
Va detto subito con chiarezza, per evitare equivoci: non è una legge organica sull’IA. La stessa Corte lo ammette apertamente — la Cina, ad oggi, non ha ancora una disciplina dedicata — e il documento lavora piuttosto ricucendo insieme le norme già esistenti: codice civile, sicurezza informatica, protezione dei dati, copyright, concorrenza, consumatori, informazioni personali, procedura civile. Il valore di questo intervento sta proprio qui: nel tentativo, fatto dal punto di vista di chi deve giudicare, di far dialogare regole già scritte davanti a controversie tecnologicamente complicate.
La colpa resta al centro, ma cambia pelle
Il punto di partenza è: dove la legge non prevede una responsabilità oggettiva o una presunzione di colpa, vale ancora il criterio generale — bisogna dimostrare la colpa. Usare l’IA, di per sé, non fa scattare automaticamente nessuna responsabilità.
La vera novità sta nel come si accerta questa colpa. La Corte elenca una serie di fattori da guardare: il contesto concreto in cui il sistema viene usato, quanto è autonomo, quanto è trasparente (sia dal punto di vista tecnico che informativo), che tipo di rischio comporta e quanto è esteso, quali misure sviluppatori e fornitori hanno messo in campo per prevenire o limitare il danno, se era tecnicamente possibile intervenire, e infine quanto l’utilizzatore poteva prevedere e controllare ciò che è successo. In pratica: la negligenza non si misura più solo guardando l’ultimo gesto umano, ma l’intera architettura di controllo costruita attorno al sistema.
Per un’azienda europea questo non è, ovviamente, diritto applicabile, ma è un segnale utile su dove si concentrerà il contenzioso. L’inventario dei sistemi, le valutazioni del rischio, i test, i limiti d’uso, le procedure di escalation, la registrazione degli incidenti, le istruzioni date agli utenti: tutto questo può smettere di essere semplice “carta per la compliance” e diventare prova concreta della diligenza. Avere una buona governance non garantisce di uscire indenni da una causa, ma rende verificabile — nero su bianco — cosa l’organizzazione sapeva, cosa poteva prevedere e cosa ha effettivamente fatto.
I provider generativi: si risponde dopo la segnalazione
Per i contenuti generati dall’IA che ledono reputazione, privacy o altri diritti della personalità, il documento cinese costruisce qualcosa di molto simile a un modello notice-and-action. Se un utente scrive un prompt costruito apposta per ottenere un contenuto lesivo, e da lì nasce un danno, a rispondere è lui. Ma se chi ha subito il danno manda al provider una segnalazione con prove iniziali e la propria identità, allora il provider deve muoversi in fretta — bloccando, ad esempio, la generazione di quel contenuto o certe istruzioni. Restare fermi, a quel punto, può costare caro: la responsabilità per il danno scatta secondo le regole richiamate dall’atto.
La Corte è onesta su un punto: un provider non può controllare in anticipo ogni singolo output, perché i risultati dipendono da dati, parametri, prompt, e vengono generati in quantità enormi. Questo giustifica una certa protezione finché il provider non ne sa nulla — ma non lo esime dal dovere di agire una volta che il rischio gli viene segnalato in modo serio.
Attenzione però a non farne una regola universale. Qui si parla di diritto cinese e di lesioni specifiche. In Europa il quadro è più frammentato: bisogna distinguere il ruolo del provider da quello, eventuale, di piattaforma o hosting, e mettere in fila Digital Services Act, GDPR, responsabilità civile nazionale e obblighi dell’AI Act. Richiamarsi semplicemente al “safe harbour” non basta a risolvere chi si prende il rischio: contano la funzione reale del servizio, il controllo che si ha davvero a disposizione, la natura della violazione.
Prodotti intelligenti: qui la distanza dall’Europa si fa netta
Sul danno da prodotto, la Corte cinese propone di considerare “prodotto IA” — ai fini della disciplina sulla qualità — solo ciò che ha un corpo fisico: robot, veicoli automatizzati. I servizi senza supporto materiale restano fuori da questo regime specifico, anche se possono comunque essere valutati con altre forme di responsabilità.
L’Europa ha scelto diversamente. La direttiva (UE) 2024/2853 fa rientrare il software nella nozione di prodotto a prescindere: incorporato in un dispositivo, accessibile via rete, offerto come servizio, non cambia nulla. Considera il produttore del software — incluso chi fornisce un sistema di IA — come possibile fabbricante, e disciplina anche aggiornamenti, modifiche sostanziali, accesso alla prova e presunzioni quando la tecnica si fa troppo complessa da dimostrare.
Al momento in cui scriviamo, la direttiva deve ancora essere recepita dagli Stati membri — termine fissato al 9 dicembre 2026 — e, dopo la rettifica pubblicata a maggio 2026, si applicherà ai prodotti immessi sul mercato o messi in servizio dopo l’8 dicembre 2026. Quindi no, non si può applicare oggi automaticamente le nuove presunzioni a una causa italiana. Ma è già il momento giusto per rileggere contratti, documentazione tecnica e catena di fornitura con questo futuro in mente.
La vera partita si gioca sulla prova tecnica
Il documento cinese affronta di petto un problema molto concreto: l’asimmetria informativa. Se una parte ha in mano documenti o dati elettronici e si rifiuta, senza motivo valido, di produrli, il giudice può considerare provata la versione sfavorevole proposta dall’altra parte. Nelle cause di copyright, poi, chi sviluppa un sistema e sostiene di non aver violato nulla deve portare elementi concreti: da dove vengono i dati di addestramento, come è avvenuto il training, come funziona il modello, e se serve, anche le basi scientifiche a supporto.
Per i contenuti generati dall’IA usati come prova, la Corte indica cosa guardare: come è costruito il prompt e quanto ha influenzato il risultato, quanto l’output somiglia all’opera rivendicata, se le prove ripetute danno risultati coerenti, come funzionano training, progettazione algoritmica e filtri. Una semplice schermata con un output isolato, insomma, rischia di valere poco se non è accompagnata da un protocollo riproducibile e da informazioni sufficienti sul contesto in cui è stata generata.
La direttiva europea sui prodotti difettosi va in una direzione simile, ma dentro un perimetro diverso. Gli articoli 9 e 10 prevedono un accesso proporzionato alle prove in mano alla controparte, e presunzioni quando il convenuto non produce ciò che gli viene chiesto o quando la complessità tecnica rende troppo difficile dimostrare il difetto o il nesso di causa. [Considerazione] Non sono regole identiche — non lo sono affatto — ma condividono lo stesso problema di fondo: chi subisce un danno da un sistema opaco spesso non ha modo di procurarsi da solo le prove necessarie.
IA negli atti processuali: trasparenza e responsabilità personale
C’è una disposizione che merita attenzione particolare da parte di avvocati, consulenti e parti in causa. Chi deposita atti processuali o ricerche giurisprudenziali costruiti con l’aiuto dell’IA deve verificarne autenticità e accuratezza, dichiarare che il sistema è stato usato, e assumersi la responsabilità di quel contenuto. La Corte lega questa regola ai casi — sempre più frequenti — di precedenti giurisprudenziali che semplicemente non esistono, e a chi manipola etichette, prompt o risultati per costruire prove false.
In Italia la legge 23 settembre 2025, n. 132 segue una strada diversa ma coerente nello spirito: mette l’uomo al centro. L’articolo 13 limita l’uso dell’IA nelle professioni intellettuali alle attività strumentali e di supporto, chiede che il lavoro intellettuale resti prevalente e impone di informare il cliente in modo chiaro, semplice e completo sui sistemi usati. L’articolo 15 riserva sempre al magistrato l’ultima parola su interpretazione della legge, valutazione dei fatti e delle prove, adozione dei provvedimenti.
La trasparenza verso il giudice, in Cina, e l’informazione al cliente, in Italia, non sono la stessa cosa — cambiano destinatario e funzione. Ma il principio di fondo è identico: l’automazione non trasferisce al modello la responsabilità professionale. Verificare che ogni precedente citato esista davvero, che il testo sia corretto, che sia pertinente — resta un lavoro umano. Vale lo stesso per citazioni normative, fatti di causa, documenti prodotti.
Dati personali e prezzi personalizzati: attenzione alle somiglianze ingannevoli
La Corte affronta anche il tema dei dati personali già resi pubblici, usati per l’addestramento. In linea di massima li considera non lesivi, se il trattamento resta entro limiti ragionevoli e la persona non si è opposta — tranne nei casi con impatto significativo, dove serve il consenso previsto dalla legge. Cosa sia “ragionevole” dipende da finalità e necessità del trattamento, tipo e sensibilità dei dati, impatto potenziale, contesto in cui erano stati pubblicati, aspettative di chi li aveva condivisi.
Meglio non trasportare questa logica di peso nel GDPR: nel diritto europeo, il fatto che un dato sia online non significa affatto che sia liberamente riutilizzabile. Servono comunque una base giuridica, finalità determinate, correttezza, trasparenza, minimizzazione, rispetto dei diritti dell’interessato. Anche l’articolo 22 GDPR si applica solo alle decisioni basate esclusivamente su trattamenti automatizzati con effetti giuridici o comunque significativi, e con eccezioni e garanzie precise.
Sul cosiddetto big data price discrimination, il testo cinese chiede ai giudici di valutare se la differenziazione dei prezzi limita in modo sostanziale l’informazione, la scelta, la correttezza dello scambio: contano i dati su preferenze, disponibilità a pagare, capacità economica, comportamento di navigazione, e se la differenza di prezzo ha una giustificazione. In Italia, l’articolo 49, comma 1, lettera e-bis) del Codice del consumo obbliga, nei contratti a distanza o fuori dai locali commerciali, a informare il consumatore quando il prezzo è personalizzato tramite decisione automatizzata. Ma quell’informativa non rende automaticamente lecito qualsiasi prezzo: restano comunque applicabili GDPR, pratiche commerciali scorrette, disciplina antidiscriminazione, regole settoriali.
Quello che resta aperto
Il documento è ricco, ma tante delle sue formule dovranno passare dalla teoria alla pratica. Concetti come “misure necessarie”, “limiti ragionevoli”, “capacità di controllo”, “livello di trasparenza” o “differenza di trattamento giustificata” sono, per loro natura, elastici. Capiremo quanto funziona questo approccio solo guardando i casi che verranno, e se sarà possibile accedere davvero a motivazioni, prove e criteri tecnici usati dai tribunali.
La cautela emerge con chiarezza anche sul copyright. Nel comunicato ufficiale in forma di domande e risposte, la Corte ammette che non c’è ancora consenso — né sulla proteggibilità degli output generati dall’IA, né sulla liceità dell’uso non autorizzato di opere altrui per addestrare i modelli. Le Opinions non sciolgono questi nodi. Fissano però dei criteri per distribuire la responsabilità quando un output viola un diritto, e per regolare l’accesso alle prove.
Anche il meccanismo di protezione del provider merita uno sguardo critico. Un sistema costruito soprattutto sulla segnalazione può non bastare quando il danno è prevedibile, si ripete nel tempo, o è di fatto incorporato nella progettazione stessa del servizio. Ma pretendere un controllo preventivo assoluto su ogni output sarebbe, all’opposto, sproporzionato — sia tecnicamente che giuridicamente. Il punto più solido resta quindi una responsabilità graduata: in base a cosa si sapeva, quale controllo si aveva, quanto era rischioso, cosa si poteva realisticamente pretendere.
Cosa l’approccio cinese ci suggerisce di fare, in pratica, oggi
Per le imprese, il primo passo è tenere un vero fascicolo del sistema: finalità, versione, fornitore, dati rilevanti, test effettuati, limiti noti, log, aggiornamenti, incidenti, segnalazioni ricevute, misure adottate. Avere una policy generale non basta più: bisogna poter ricostruire, punto per punto, la singola decisione presa dal sistema.
Nei contratti vanno definiti con chiarezza l’accesso ai dati tecnici, la conservazione dei log, la collaborazione in caso di controversia, la gestione delle segnalazioni, i tempi di intervento, gli aggiornamenti, la sicurezza, la proprietà intellettuale, la ripartizione dei costi di difesa. Una clausola di manleva da sola non risolve l’asimmetria informativa, se poi chi la usa non riesce a ottenere dal fornitore le prove di cui ha davvero bisogno.
Per avvocati e consulenti, ogni output pensato per un cliente, una controparte o un giudice va trattato come una bozza — mai come un testo definitivo. Conviene tenere traccia delle fonti verificate, della data del controllo, della versione del documento; nei casi delicati, va valutata anche la riservatezza, il segreto professionale, la base giuridica per il trattamento dei dati inseriti nello strumento.
Per chi si prepara a una causa, la strategia sulla prova deve partire prima ancora del deposito degli atti: capire quali dati sono in mano alla controparte, chiedere che vengano conservati per tempo, documentare prompt e parametri usati, ripetere i test seguendo un protocollo, e separare con chiarezza l’errore del modello dalla configurazione scelta dal provider e dall’uso scorretto fatto dall’utente.
Le nuove indicazioni cinesi non creano una disciplina globale dell’IA, e in Italia non trovano applicazione. Il loro valore, però, sta proprio nel mostrarci — con una chiarezza rara — dove finiranno per giocarsi molte delle controversie future: non tanto sulla definizione astratta di “intelligenza artificiale”, quanto sulla capacità concreta di attribuire controllo, conoscenza e prova lungo tutta la filiera.
La strada più solida, anche per chi opera in Italia, resta preparasi a dimostrare la propria diligenza prima ancora che nasca la lite. Governance, contratti, registri, test, procedure di risposta non sono adempimenti burocratici fini a se stessi: sono il materiale con cui, un domani, un giudice valuterà se il danno era prevedibile, se le misure attese erano ragionevoli, se esiste un nesso di causa. L’intelligenza artificiale non cancella le categorie della responsabilità civile — le rende solo più difficili da applicare senza una prova tecnica costruita bene. Ed è proprio su questa prova, molto più che sulle promesse dei prodotti, che si misurerà davvero l’accountability dei sistemi automatizzati.