Non chiedete se l’ha fatto l’AI. Chiedete chi ne risponde.

Il paper di Luciano Floridi sulla pubblicazione scientifica offre a imprese e amministrazioni una regola di governo molto più ampia: l’intelligenza artificiale crea valore quando amplia la capacità umana di giudicare, verificare e correggere; diventa pericolosa quando rende il giudizio anonimo.

di Andrea Viliotti

━━━━━━━━━━━━━━━━━━━━

FONTE ANALIZZATA Luciano Floridi, AI and the Future of Publishing: Not Detection, but Answerability, 2026

Il dibattito sull’intelligenza artificiale si concentra spesso sulla provenienza dei testi, sulla scelta del modello o sulla percentuale di automazione. Sono domande secondarie. La domanda decisiva è chi possiede il giudizio: chi formula il problema, controlla le prove, può interrompere il processo e risponde della decisione davanti a chi ne subisce gli effetti.

TESI DELL’ARTICOLO La domanda corretta non è quanto sia intelligente il sistema. È chi sa spiegare, verificare, correggere e revocare la decisione che il sistema ha contribuito a produrre.

responsabilità umana nell’uso dell’AI

La domanda sbagliata che guida molti progetti AI

Le riunioni sull’intelligenza artificiale iniziano quasi sempre nello stesso modo: quale modello usare, quanto costa, che cosa può automatizzare, quanto tempo farà risparmiare. È comprensibile. Ma è anche il modo più rapido per confondere la disponibilità di una tecnologia con la capacità di governarla.

Il paper di Luciano Floridi, dedicato al futuro della pubblicazione scientifica, propone un cambio di prospettiva che riguarda direttamente imprese e amministrazioni pubbliche. Nel mondo editoriale ci si chiede se un testo sia stato scritto da una macchina. Floridi sostiene che il quesito importante sia un altro: chi è in grado, e ha il dovere, di rispondere di ciò che quel testo afferma? Trasportata nel lavoro organizzativo, la domanda diventa: chi risponde della decisione, della raccomandazione, della graduatoria, del contratto, della diagnosi operativa o della comunicazione prodotta con l’aiuto dell’AI?

Questa distinzione sembra filosofica, ma è profondamente operativa. Un sistema può generare una risposta brillante senza che nessuno sappia ricostruirne le fonti. Può accelerare una pratica e, nello stesso tempo, indebolire la competenza di chi dovrebbe controllarla. Può produrre un documento formalmente impeccabile che nessun responsabile saprebbe difendere sotto contestazione. In tutti questi casi l’organizzazione ha aumentato la produzione, ma ha ridotto la propria capacità di giudizio.

La provenienza è utile, ma non dimostra la qualità

Floridi descrive la “trappola della provenienza”: detector, watermark, dichiarazioni d’uso e registri possono dire qualcosa sulla storia di un testo, ma non stabiliscono se le affermazioni siano vere, se le citazioni esistano, se il ragionamento sia valido o se qualcuno sappia correggere l’errore. Provenienza e qualità sono variabili diverse.

Il paper richiama risultati molto severi sui detector. In uno studio su sette strumenti, gli elaborati in inglese di persone non madrelingua avrebbero registrato un tasso medio di falsi positivi del 61,2 per cento; tutti e sette i detector avrebbero classificato erroneamente come generato dall’AI il 19,8 per cento dei testi, mentre almeno uno avrebbe segnalato il 97,8 per cento. Un altro esperimento, sempre riportato da Floridi, mostra che una parafrasi può far scendere l’accuratezza di un rilevatore dal 70,3 al 4,6 per cento senza cambiare il significato del contenuto.

Per un dirigente la lezione è netta. Un indicatore di provenienza può essere un segnale di controllo, non una sentenza. Può aiutare a selezionare casi da verificare, confrontare l’uso dichiarato con le tracce di processo o individuare anomalie. Non deve decidere da solo se un dipendente ha commesso un illecito, se un fornitore è affidabile, se una domanda è fraudolenta o se un cittadino merita un beneficio. Un segnale statistico che modifica la posizione di una persona prima dell’esame delle prove è già una decisione, anche quando viene presentato come semplice “supporto”.

Stesso software, risultati opposti: cambia il luogo del giudizio

La figura più importante del paper mette a confronto due configurazioni che usano lo stesso software. Nella prima, la persona porta la domanda, definisce gli standard, valuta l’output, verifica le fonti, corregge e integra. L’AI produce una proposta. Nella seconda, il modello produce e la persona approva senza avere la competenza, il tempo o l’accesso necessari per controllare. Nel primo caso il risultato può essere migliore di quello ottenibile dalla persona da sola. Nel secondo, il risultato può essere peggiore pur apparendo più professionale.

La variabile decisiva non è quindi la potenza del modello, ma il luogo in cui risiede il giudizio. Dire che “c’è un essere umano nel processo” non basta. Un essere umano è realmente responsabile soltanto se possiede quattro condizioni: competenza per capire, accesso alle prove, autorità per correggere o fermare, tempo effettivo per farlo. Senza queste condizioni, la supervisione è una firma rituale.

Questo punto separa la responsabilità del sistema dalla responsabilità sulla singola affermazione o decisione. Un’azienda può essere responsabile della piattaforma, del contratto con il fornitore e della sicurezza informatica. Ma qualcuno deve anche saper rispondere della raccomandazione specifica che ha portato a escludere un candidato, cambiare un prezzo, rifiutare una pratica o inviare una comunicazione al mercato. La governance generale non sostituisce la responsabilità sul caso concreto.

Una regola matematica semplice: il sistema vale quanto il suo anello più debole

Per tradurre questa idea in una disciplina di progetto propongo un indicatore ordinale, non una probabilità e non uno standard universale. Ogni dimensione riceve un valore 0, 1 o 2: zero significa assente o non verificabile; uno significa parziale e dipendente da supervisione; due significa adeguato nel perimetro dichiarato.

La capacità dell’organizzazione di rispondere di un uso AI può essere rappresentata così:

A = min(G, C, P, O, R)

dove G è il governo del giudizio, C la competenza e l’accesso, P la prova e la tracciabilità, O la possibilità di override e correzione, R il rimedio o la contestabilità. Si usa il minimo, non la media. Un registro perfetto non compensa l’assenza di un responsabile competente. Un modello molto accurato non compensa l’impossibilità di fare ricorso. Un comitato etico non compensa un processo operativo nel quale nessuno può fermare l’output.

La conseguenza pratica è importante: quando una sola dimensione vale zero, non è autorizzata la chiusura automatica della decisione. Il progetto può continuare come esperimento, strumento di ricerca o supporto alla revisione, ma non deve essere presentato come processo governato. Questa logica impedisce la compensazione retorica: molte buone pratiche non cancellano un difetto che incide sul diritto di capire, correggere o contestare.

Le cinque dimensioni del gate

DIMENSIONE	DOMANDA DI CONTROLLO	SCALA ORDINALE
G — Governo del giudizio	Chi definisce domanda, criteri, decisione e rischio accettato?	0 assente · 1 parziale · 2 adeguato
C — Competenza e accesso	Il responsabile comprende il dominio e può consultare prove, dati e versioni?	0 assente · 1 incompleto · 2 adeguato
P — Prova e tracciabilità	Fonti, passaggi, correzioni e dipendenze sono ricostruibili?	0 no · 1 in parte · 2 sì
O — Override e correzione	Esiste un potere reale di fermare, ignorare o modificare l’output?	0 no · 1 limitato · 2 testato
R — Rimedio e contestabilità	Chi subisce l’effetto può ottenere riesame e correzione?	0 no · 1 debole · 2 effettivo

REGOLA DI NON COMPENSAZIONE La media compensa; il minimo rivela. Se un solo requisito decisivo è assente, la chiusura automatica non è autorizzata.

Non valutate “l’AI”: valutate ogni singolo uso

Un modello non è sicuro o insicuro in astratto. Lo stesso sistema può essere ragionevole per controllare il formato di un documento e inaccettabile per attribuire una frode. Per questo la vera unità di governo non è il prodotto acquistato, ma il singolo caso d’uso.

Una seconda regola ordinale aiuta a scegliere il grado di automazione:

I = min(F, D, H, 2 − S, A)

F misura quanto l’output sia verificabile rispetto a un fatto esterno; D la forza dell’evidenza disponibile nello specifico dominio; H la qualità del controllo umano; S l’impatto sullo status, sui diritti o sulla reputazione, da 0 a 2; A è la capacità di rispondere definita sopra. Anche questa non è una formula scientificamente validata: è un freno progettuale che rende esplicite le condizioni della decisione.

Se I vale 2, si può valutare un’automazione circoscritta con audit periodico. Se vale 1, l’AI può suggerire, ordinare, segnalare o preparare, ma una persona qualificata deve confermare. Se vale 0, l’AI non deve chiudere la decisione. Può aprire domande e raccogliere elementi, non attribuire lo status finale.

Matrice illustrativa di impiego

CASO D’USO	NATURA DEL COMPITO	I	ROUTING
Formato e completezza documentale	Fatti esterni facilmente controllabili	2	Automazione circoscritta con audit
Esistenza di record, riferimenti o requisiti	Verificabile, ma con falsi positivi possibili	1	Segnalazione + conferma umana
Bozze, sintesi, ricerca e feedback	Supporto utile; qualità dipendente da fonti e contesto	1	Assistente, non decisione finale
Metodo, strategia, causalità, adeguatezza	Giudizio interpretativo e contestabile	0	Nessuna chiusura automatica
Assunzioni, sanzioni, benefici, frode, reputazione	Impatto alto sullo status	0	Processo umano con prove e rimedio

Nota: la matrice è un esempio operativo, non una certificazione del singolo caso d’uso.

Due famiglie di impiego che non vanno confuse

Floridi distingue, in sostanza, tra verifica delimitata e giudizio sullo status. La prima collega l’output a un fatto indipendentemente controllabile. Un DOI inesistente, un campo obbligatorio vuoto, una somma incoerente o una data fuori intervallo sono anomalie che si possono verificare con una fonte esterna. Il fallimento segnala qualcosa da controllare; il successo non certifica l’intero documento.

Il giudizio sullo status è diverso. Etichette come “probabile frode”, “candidato debole”, “testo scritto dall’AI”, “fornitore rischioso” o “pratica sospetta” cambiano la posizione della persona o dell’organizzazione prima che le prove siano state esaminate. Anche se l’etichetta è formalmente consultiva, crea un precedente cognitivo: sposta l’onere della prova, orienta il revisore e aumenta il rischio di automazione del pregiudizio.

Da qui discende una regola di portafoglio. Automatizzate prima i controlli circoscritti, verificabili e reversibili. Trattate come raccomandazioni le sintesi, le bozze e le priorità. Conservate sotto responsabilità umana qualificata le interpretazioni metodologiche, strategiche e causali. Escludete la chiusura automatica quando sono in gioco assunzioni, licenziamenti, sanzioni, accesso a servizi, affidabilità morale, frode o altre decisioni ad alto impatto.

Quattro livelli di controllo, non una sola policy per tutto

Il paper propone quattro livelli di disclosure e supervisione. Il principio può essere trasferito senza copiare meccanicamente il contesto editoriale.

Primo livello: impiego stretto e a basso impatto. Correzione formale, formattazione, classificazioni semplici e controlli che non modificano lo status di persone o organizzazioni. Si applicano le normali regole di sicurezza, qualità e riservatezza, senza costruire una burocrazia sproporzionata.

Secondo livello: contributo sostanziale. Se l’AI prepara analisi, sintesi, codice, figure, bozze decisionali o parti di un servizio, occorre dichiarare il ruolo svolto, le fonti usate, il responsabile della verifica e il livello di dipendenza dall’output. Non basta scrivere “contenuto generato con AI”: serve sapere che cosa è stato delegato.

Terzo livello: contestazione o rischio elevato. Devono esistere registri riservati e accessibili a chi controlla, criteri di attivazione dell’audit, revisione indipendente e un percorso di ricorso. Nessuna conseguenza negativa dovrebbe dipendere soltanto da un segnale automatizzato.

Quarto livello: validazione prima della scala. Il caso d’uso va valutato nel settore, sul tipo di documento o pratica, sulle lingue e sulle popolazioni reali. Vanno registrati versione del modello, trattamento dei dati, dipendenze dal fornitore, prestazioni, errori differenziali e regole di arresto. Dopo il rilascio occorrono monitoraggio del drift e sospensione quando la qualità si allontana dalle condizioni validate.

Questi livelli evitano due errori opposti: vietare tutto per paura e distribuire l’AI ovunque perché “è soltanto un assistente”. La proporzione corretta dipende dal compito, dalle prove e dalle conseguenze.

Chi risponde di che cosa: l’architettura dei ruoli

La responsabilità si disperde quando molte mani partecipano e ognuna presume che un’altra stia controllando. Per chiudere questo vuoto non serve inventare un unico “responsabile AI” onnisciente. Serve assegnare un soggetto nominato a ogni relazione di risposta.

Lo sponsor o la direzione risponde del perché: obiettivo, beneficio atteso, rischio accettabile e criteri di stop. Il process owner risponde del come: attività, fonti, passaggi, controlli e gestione delle eccezioni. L’esperto di dominio e il data owner rispondono della qualità e pertinenza delle evidenze. Il responsabile tecnico o del fornitore risponde di versione, accessi, conservazione, incidenti e cambiamenti del modello. Il decision owner risponde della decisione concreta, delle ragioni e dell’eventuale override. La funzione di audit o ricorso risponde della possibilità di contestare e ottenere un rimedio.

Ogni ruolo deve avere cinque elementi: a chi risponde, di quale oggetto, secondo quale standard, con quali prove e con quale rimedio. Se uno di questi elementi manca, la responsabilità è nominale. La frase “il modello ha suggerito” non è una ragione. È soltanto la descrizione di un passaggio tecnico.

La catena minima dei responsabili

RUOLO	DI CHE COSA RISPONDE	EVIDENZA MINIMA
Sponsor / direzione	Obiettivo, rischio accettabile, criteri di scala e stop	Business case, decision memo, soglie
Process owner	Workflow, fonti, controlli, eccezioni	Mappa di processo, log qualità
Esperto di dominio / data owner	Pertinenza e qualità di dati e prove	Dataset, fonti, test, limiti
Responsabile tecnico / vendor	Versione, accessi, retention, incidenti, drift	Log tecnici, changelog, SLA
Decision owner	Esito concreto, ragioni, override	Decision record, firma, motivazione
Audit / ricorso	Contestazione, riesame e rimedio	Audit trail, appeal, correzione

Che cosa cambia per le imprese

Per un’impresa, il primo cambiamento riguarda il business case. La velocità di generazione non è valore economico. Un team può produrre più documenti e contemporaneamente aumentare rework, rischi contrattuali, verifiche tardive e dipendenza da poche persone che conoscono i prompt. Il valore appare soltanto quando il miglioramento modifica una linea osservabile: costo evitato, capacità vendibile, margine, qualità, tempi di ciclo, rischio o servizio al cliente.

Il secondo cambiamento riguarda gli acquisti. Non comprate soltanto funzionalità. Comprate condizioni di controllo: accesso ai log, gestione delle versioni, policy sui dati, possibilità di escludere l’addestramento, tempi di notifica degli incidenti, esportazione delle evidenze, reversibilità e assistenza nell’audit. Un fornitore può rispondere dell’infrastruttura; l’impresa continua a rispondere delle decisioni prese con quella infrastruttura.

Il terzo cambiamento riguarda le competenze. Un’organizzazione matura non dipende da “eroi del prompt”. Trasforma le pratiche individuali in criteri condivisi, fonti autorizzate, test di qualità, gestione delle eccezioni e apprendimento trasferibile. La prova più utile è la ricostruzione senza AI: il responsabile sa spiegare il problema, le alternative, la fonte decisiva e il motivo della scelta senza limitarsi a rileggere l’output del modello?

Il quarto cambiamento riguarda le regole di arresto. Drift, aumento dei falsi positivi, violazioni di riservatezza, impossibilità di spiegare una raccomandazione materiale o peggioramento su una popolazione devono sospendere il caso d’uso. Un progetto senza stop rule è un progetto nel quale il desiderio di scala è più forte dell’evidenza.

Che cosa cambia per la pubblica amministrazione

Nel settore pubblico la soglia deve essere più alta perché una decisione può modificare diritti, prestazioni, autorizzazioni, graduatorie, controlli e reputazione. L’efficienza non elimina il dovere di dare ragioni. Anzi, più il processo è automatizzato, più deve essere chiaro chi può ricostruirlo e correggerlo.

L’AI può essere utile per cercare documenti, estrarre requisiti, preparare una sintesi, individuare incoerenze o ordinare pratiche da esaminare. Ma un’anomalia non è una colpa, una correlazione non è una prova e una priorità non è una decisione. Un segnale di possibile irregolarità dovrebbe aprire un controllo, non chiudere una prestazione. Una graduatoria suggerita dovrebbe essere riesaminabile rispetto ai criteri, ai dati e alle eccezioni. Una risposta al cittadino dovrebbe avere un ufficio e una persona capaci di correggerla.

La responsabilità pubblica richiede inoltre un rimedio reale. Chi subisce una conseguenza deve sapere che l’AI ha avuto un ruolo sostanziale, quali elementi sono stati considerati, chi ha confermato l’esito e come contestarlo. Il ricorso non può essere una seconda interrogazione allo stesso modello. Deve portare a un soggetto con autorità, accesso alle prove e capacità di modificare la decisione.

Anche la procurement policy cambia. La gara o il contratto devono chiedere evidenze sul caso d’uso, non soltanto prestazioni generiche del modello: test nel dominio, dati e popolazioni, gestione delle versioni, portabilità dei registri, localizzazione dei dati, incident response, audit, subfornitori, dismissione e continuità operativa. La sovranità decisionale non si conserva con una clausola astratta; si conserva progettando l’uscita e il controllo.

Un cruscotto per misurare la capacità di rispondere

La governance deve diventare osservabile. Alcuni indicatori semplici possono aiutare, purché siano trattati come misure operative e non come probabilità di successo.

• Copertura di responsabilità = casi d’uso conseguenziali con responsabile, prove, override e rimedio completi / tutti i casi d’uso conseguenziali.

• Copertura di override testato = casi d’uso nei quali stop e correzione sono stati realmente provati / tutti i casi d’uso in produzione.

• Tasso di decisioni negative basate soltanto sull’AI = decisioni avverse fondate su un output automatizzato non confermato da prove indipendenti / tutte le decisioni avverse influenzate dall’AI. Per le decisioni ad alto impatto il target dovrebbe essere zero.

• Divario dichiarazione-audit = differenza assoluta tra gli usi sostanziali dichiarati e quelli osservati nell’audit / usi sostanziali esaminati.

• Tasso di ricostruzione senza AI = decisioni campionate che il responsabile sa ricostruire senza dipendere dall’output del modello / decisioni campionate.

• Tasso di risposta alle stop rule = violazioni rilevate che hanno prodotto sospensione, revisione o correzione / violazioni rilevate.

Questi numeri non dicono se l’AI è “buona”. Dicono se l’organizzazione ha costruito le condizioni per usarla senza perdere il controllo.

Le dieci domande che devono precedere la scala

Prima di finanziare, estendere o rendere obbligatorio un progetto AI, direzione e responsabili pubblici dovrebbero poter rispondere senza ambiguità a dieci domande:

1. Quale compito o decisione stiamo modificando, esattamente?

2. Quali parti dell’output possono essere verificate rispetto a fatti esterni?

3. Chi formula la domanda, i criteri e la soglia di accettazione?

4. Chi possiede competenza, accesso e tempo per verificare?

5. Quali fonti, versioni, passaggi e correzioni vengono conservati?

6. Chi può fermare, correggere o ignorare l’output senza penalità organizzative?

7. Come può una persona interessata contestare la conseguenza e ottenere un rimedio?

8. Su quali dati, lingue, popolazioni e condizioni operative è stato valutato il caso d’uso?

9. Quali eventi fanno scattare sospensione, revisione o ritorno al processo precedente?

10. Il responsabile sa ricostruire la decisione senza affidarsi all’autorità del modello?

Se una risposta manca, non esiste ancora un sistema governato. Esiste una tecnologia disponibile, accompagnata da una speranza organizzativa.

La vera maturità non è produrre di più, ma rispondere meglio

Il contributo più utile del paper di Floridi non è una nuova proibizione. È il recupero di un principio antico dentro una tecnologia nuova: chi firma, decide o certifica deve poter dare ragioni, mostrare le prove, correggere e accettare le conseguenze.

L’AI può ampliare lo spazio delle alternative, accelerare la ricerca, aiutare a trovare incoerenze e preparare candidati migliori. Non può assorbire il giudizio di chi governa l’organizzazione. Quando il modello controlla il percorso e l’essere umano si limita a ratificare, la responsabilità diventa nominale. Quando l’essere umano mantiene domanda, criteri, verifica, decisione e rimedio, la tecnologia può realmente aumentare la qualità del lavoro.

La competizione non si vincerà contando quanti output AI produce un’organizzazione. Si vincerà costruendo organizzazioni capaci di dare ragioni migliori per le decisioni che prendono con l’AI. La domanda finale, per un imprenditore, un dirigente o un amministratore pubblico, non è “quanto è intelligente il sistema?”. È molto più concreta: “chi sa rispondere di questo, con quali prove e con quale possibilità di correggere?”

FILO ROSSO La maturità AI non si misura dal numero di output, ma dalla qualità delle ragioni, delle prove, degli override e dei rimedi che l’organizzazione conserva.

Fonte principale

Luciano Floridi, AI and the Future of Publishing: Not Detection, but Answerability, 2026, 20 pp.