Quali sono i limiti dell’automazione decisionale?
Sino a che punto restiamo noi umani a prendere la decisione?
Rispondendo alla seconda domanda per prima: restiamo noi umani. Sempre.
A ribadirlo un’interessante sentenza del TAR Catania (sez. III) del 22 aprile 2026, n. 1157, che analizza nel dettaglio le risultanze di un software di IA utilizzato per fare i conteggi in una gara di appalti pubblici, con conseguente successo del ricorrente e monito per la stazione appaltante.
Il ricorrente ha infatti dimostrato che, da somme e sottrazioni puramente matematiche, il punteggio spettante sarebbe stato di 74,394 e non di 74,230 con il risultato che avrebbe dovuto aggiudicarsi l’appalto posizionandosi in prima posizione in graduatoria e non al secondo posto.
“Per 0,164 punti Martin perse l’asino”, antico proverbio che dice invero "Per un punto Martin perse l’asino”, a significare che a volte per una piccola cosa, per un errore insignificante, si possono avere conseguenze molto importanti e gravi.
Quando usiamo la IA in una gara per appalti pubblici, di beni o di servizi, dobbiamo considerare SEMPRE strumentale l’uso di algoritmi, diremmo servente, rispetto al resto dell’attività amminstrativa, soprattutto quando da un controllo incrociato risulta del tutto evidente l’errore algoritmico. La colpa del committente è stata quella di essersi fidata dell’algoritmo, difendendo in giudizio una posizione indifendibile.
Si legge infatti nella sentenza che:
- il fondamento legislativo dell’utilizzo di tecnologie informatiche da parte delle Pubbliche Amministrazioni per lo svolgimento delle proprie attività istituzionali è rappresentato dal lgs. n. 82/2005 (Codice dell’Amministrazione digitale) che, all’articolo 12, segnatamente, stabilisce il principio generale secondo cui le pp.aa. utilizzino le tecnologie dell’informazione e della comunicazione per la realizzazione degli obiettivi di efficienza, efficacia, economicità, imparzialità, trasparenza, semplificazione e partecipazione, nel rispetto dei principi di uguaglianza e di non discriminazione;
- il precipitato delle novità introdotte dal riferimento legislativo sopra richiamato, è che la legge generale sul procedimento amministrativo (l.n. 241/90) sia stata arricchita, dapprima ad opera della l.n. 15/2005 e poi del d.l. n. 76/2020, dall’attuale art. 3-bis, secondo cui “Per conseguire maggiore efficienza nella loro attività, le amministrazioni pubblicheagiscono mediante strumenti informatici e telematici, nei rapporti interni, tra le diverse amministrazioni e tra queste e i privati”;
- già nello svolgimento della sua attività generale, all’Amministrazione è stato chiesto, quindi, da qualche anno a questa parte, di adottare strumenti informatici per rendere più efficiente il suo operato….ma che…..non per questo la PA deve venire meno al rispetto di principi fondamentali dell’ordinamento giuridico, anche di rango costituzionale.
In particolare a quali principi si riferisce il TAR?
la procedura automatizzata deve essere:
- TRASPARENTE e la decisione NON DEVE ESSERE ESCLUSIVA da parte della IA 3 che risulta un nostro collaboratore, un istruttore, restando l’uomo SEMPRE responsabile del procedimento ai sensi della 241/90
- la responsabiltà o IMPUTABILITA’ della decisione finale va all’umano titolare del potere amm.vo
- vige l’obbligo della NON DISCRIMINAZIONE (imperativo etico e legale per assicurare che sistemi algoritmici non producano trattamenti ingiusti, parziali o svantaggiosi nei confronti di individui o gruppi basati su caratteristiche quali nazionalità, sesso, razza, religione, età, orientamento sessuale o disabilità)
Questi criteri sono vere e proprie GARANZIE, ravvisate anche nell’IA Act (EU) del 2025 e nella legge di recepimento italiana n. 132/2025, i cui PRINCIPI prevedono l’uso dell'IA con supervisione umana, trasparenza e sicurezza
POTREMMO QUINDI ASSERIRE CHE:
- in materia contrattuale, il TAR riconosce sì la possibiltà di ammettere che la DIGITALIZZAZIONE sia di fatto un principio generale dell’ordinamento giuridico in materia contrattuale (Dlvo 36/2023), ma solo nel rispetto di un altro importante PRINCIPIO, quello dell’EFFETTIVITA’, vale a dire di un processo STRUMENTALE, servente, rispetto alla IMMUTATA NECESSITA’ DI RENDERE EFFETTIVI PRINCIPI COSTITUZIONALI;
- tali PRINCIPI sono richiamati dall’art. 97 Costituzione, che devono informare l’azione amministrativa, quali la LEGALITÀ, il BUON ANDAMENTO, l’IMPARZIALITÀ;
- da questi principi guida, ne derivano altri e cioè: da quelli della Legalità e Buon Andamento, i principi di EFFICIENZA, EFFICACIA, ECONOMICITÀ e da quello di Imparzialità deriva il principio della TRASPARENZA
….principi a cui Martin deve prestare particolare attenzione per non perdere l’asino….