L’ errore o allucinazione informatica, restano integralmente ascrivibili all’organo che ha fatto uso della IA che non ha verificato la correttezza ed autenticità delle risposte: qui sorge la responsabilità.

I giudici amministrativi dicono che il dipendente è tenuto ad esercitare la propria riserva di umanità SEMPRE, e sostengono che un sistema di IA può contribuire alla redazione di una bozza, organizzare informazioni o suggerire una formulazione o una decisione finale, come strumento di supporto, servente ma non sostitutivo.

1. Fondamentale sapere

Fatto il ripasso della 1^ parte, iniziamo gli approfondimenti del caso, prendendo spunto da Altalex del 3 ottobre 2026, articolo a cura di Calogero Alberto Petix - Dirigente amministrativo Ministero dell'istruzione e merito “Tra AI Act e giurisprudenza più recente”.

Punti fondamentali:

• Dal 2 agosto 2026 sono pienamente applicabili gli obblighi di trasparenza previsti dall' art. 50 del Regolamento EU IA Act 2024/1689, entrato in vigore il 2 agosto 2026

• art. 4 dello stesso Regolamento sull’obbligo di alfabetizzazione (a cui con i miei articoli intenderei modestamente contribuire) o AI literacy, in vigore dal 2 febbraio 2025

• L. 23/09/2025, n. 132 che non sostituisce il Regolamento, ma ne integra l’applicazione per le materie di competenza nazionale, entrato in vigore il 10/10/2025

La questione è: come viene generato il risultato finale?

Va detto che al termine di un’istruttoria non avremo niente di scontato, perché la IA di ultima generazione (che si avvale del metodo del machine learning) non rende un prodotto pienamente prevedibile ex ante dall'amministrazione, cioè quando sceglie di usare quell'algoritmo, non saprà esattamente quale risposta otterrà.

2. Alfabetizzazione da acquisire

Lo so, lo so, tranquilli, spieghiamo anche cosa si intende per algoritmo nella IA.

E lo facciamo attingendo direttamente dal sito di IBM, non so se mi spiego. La casa dell’informatica PC più vecchia al modo. Se digitate sul web IBM vi compare la seguente descrizione: International Business Machines Corporation inizia alla fine del XIX secolo negli Stati Uniti e ha segnato l'evoluzione dell'informatica globale e italiana.

Siamo un po’ tutti figli di IBM.

Ebbene, IBM dice che un algoritmo di IA generativa (che usa l’apprendimento automatico o machine learning) è una procedura logico-matematica attraverso cui la IA impara a identificare i modelli per applicarli e rendere la risposta agli umani (concludo io)…quindi, chiederete voi, dammi anche la spiegazione di “modello”.

Continuiamo con IBM: mentre un algoritmo è un processo graduale (come un nuovo assunto in carne e ossa che impara un procedimento amministrativo attraverso uno specifico “addestramento”) un modello è un programma in “addestramento” che analizza dati di input per produrre dati di output, che si concretizzano in una risposta/decisione finale senza necessità di ulteriore intervento umano. Di umano ci sarà solo la verifica della cd decisione finale: non da acquisire e fare propria ad occhi chiusi insomma.

Ma signori, direte voi, sono anni che usiamo la IA: nei cellulari, con Alexa suonami questo o quello, Facebook, Google traduttore, Youtube, ecc.

Vero, ma si tratta di IA classiche, con risultati altamente prevedibili. Noi umani sapevamo cosa aspettarci. Ora non proprio, solo l’immaginazione può aiutarci.

Qui parliamo di IA che usano uno specifico addestramento, il machine learning che impara facendo, impara con l’esperienza e “parla con noi”. Si attiva una nuova e inaspettata forma di comunicazione.

Una moderna Alexa mi direbbe: <ehi Brunella, dato che ascolti sempre Franco Battiato, perché non ti fai un giro con Alice che canta le stesse canzoni? Ora che lui non c’è più, senti lei, che è bravissima> dopo di che parte con i I Treni di Tozeur versione del 21.12.2023.

Dice IBM che il vantaggio principale degli algoritmi di machine learning è il fatto che consentono ai modelli di intelligenza artificiale di apprendere implicitamente dall'esperienza, attività in contrasto con le tecniche di intelligenza artificiale "classiche" o "basate su regole", che richiedono un data scientist, un esperto o un ingegnere informatico per programmare manualmente il processo decisionale del modello. Negli ultimi decenni, i sistemi di machine learning sono emersi come la modalità dominante di intelligenza artificiale e analisi dei dati rispetto all'intelligenza artificiale basata su regole perché, tra le altre ragioni, il machine learning è intrinsecamente più flessibile, scalabile e accessibile….e mi fa ascoltare I Treni di Tozeur.

Ok, ok, ho capito. Volete la definizione di scalabile. Un sistema è scalabile se, passando da poche richieste a milioni di dati i tempi di risposta, non rallenta e gli errori non aumentano. Bello vero? Un meccanismo perfetto, per qualcuno di noi, anche un po’ inquietante. Di sicuro io non mi considero “scalabile”, in quanto fare 1 provvedimento amministrativo di impegno di spesa o farne 100 mi cambia la vita! Per non parlare degli errori contabili che posso fare con l’aumentare della mole di lavoro, dei tempi che impiego ecc.

3. I giudici amministrativi dicono che

Alfabetizzati più di noi, cercano di stare dietro all'evoluzione della IA con la loro giurisprudenza.

Partendo dalla recente sentenza del Tar Puglia del 3 agosto 2026, n. 956 che sottolinea il sorgere della responsabilità del funzionario che utilizza sistemi di intelligenza artificiale, la Giurisprudenza si attesta sulla cd riserva di umanità in quanto contributo umano capace di controllare, validare ovvero smentire la decisione automatizzata «a garanzia dell'imputabilità della scelta al titolare del potere autoritativo» non alla IA.

E’ utile richiamare la sentenza del Consiglio di Stato n. 881/2020 che riconduce l’uso della IA al fondamento costituzionale dell’art. 28 e alla L. 241/1990 sul procedimento amministrativo che rischierebbe di spersonalizzarsi con l’uso della IA, in quanto la sorte del provvedimento privo di contributo decisionale umano resta discussa: se ne prospetta di volta in volta l'inesistenza per difetto di imputabilità, la nullità per carenza di volontà riferibile all'amministrazione, l'annullabilità per violazione di legge o l'inefficacia. Bella questione!

Può la IA fornire decisioni che si trasformano in atto finale? Certo che sì, ma non senza prima avere avuto il via dall’umano. L’output o decisione finale, DEVE essere sottoposta a verifica del responsabile del procedimento. E così è risolta la questione. L’imputazione è dell’umano, non della IA.

E c’è di più!

L’art. 10 bis della L. 241/1990 funge da sorvegliante.

La proposta di decisione finale può essere comunicata all'interessato, anche mediante il preavviso di rigetto, consentendogli di presentare osservazioni e di chiedere il riesame in caso di errore nei presupposti di fatto o di diritto. In questo modo il contraddittorio procedimentale funge da sorveglianza umana sul contenuto del provvedimento.

Un aiutino, insomma, al nostro funzionario.

4. Organizzazione del lavoro e tracciabilità

Anche in assenza di procedimenti amministrativi (a maggior ragione per questi) sul piano organizzativo possono risultare utili campionamenti e specifici controlli di qualità (cito nuovamente Altalex del 3 ottobre 2026) su procedure che “diamo in pasto alla IA” come si dice in gergo.

Consigliata la creazione del fascicolo digitale, in cui viene documentato l’uso della IA per consentirne la tracciabilità, in particolare: quale sistema è stato utilizzato e in quale versione; per quale finalità; quali dati sono stati elaborati; quali criterio ha orientato l'elaborazione; quale output/decisione è stato prodotto; quale verifica umana è stata svolta; quale incidenza ha avuto l'output sulla decisione finale. 

5. Facciamo conversazione

Sperando di aver modestamente contribuito alla alfabetizzazione ai sensi dell’art. 5 dell’IA ACT, concludo informandovi che dalla città da cui vi scrivo, la Regione Toscana ha presentato all’Internet Festival di Pisa il chatbot “Chiedilo a me”, un assistente digitale basato su IA conversazionale che orienta cittadini e imprese tra servizi, bandi, opportunità e eventi regionali.