Attenzione, non confondiamo l’ “in” con l’ “on”.

Human in the loop, significa che la IA si ferma in attesa della verifica umana.

Human on the loop, significa che la IA agisce autonomamente, mentre una persona sovraintende ed interviene solo in caso di anomalie.

Il TAR esamina l’ “in”.

A chi di voi non fosse ancora venuta l’emicrania, mi rivolgo per arrivare al cuore della sentenza, non senza prima, mi spiace, illustrarvi le allucinazioni informatiche.

Pensavate che le allucinazioni appartenessero solo alla sfera cognitiva umana, ovvero la percezione sensoriale (visiva, uditiva, olfattiva, gustativa o tattile) in assenza di uno stimolo esterno reale, vissuta dall'individuo come autentica e concreta. Invece per la IA non è niente del genere: non è che vede il dirigente laddove non esiste, o la macchinetta del caffè apparire in ufficio, no signori, significa semplicemente che commette un errore oppure è motivata da un’eccessiva propensione creativa. Risultato? Genera risposte false o le inventa del tutto, presentandole in modo convincente ed autentico.

L’ errore o allucinazione informatica, resta integralmente ascrivibile all’organo che l’ha fatta proprio inserendola nel provvedimento, senza verificarne l’autenticità. E qui sorge la responsabilità.

Esaurito il parco fanta-amministrativo, capiamo come hanno ragionato i giudici in presenza di un’allucinazione informatica che il dipendente, evidentemente, ha creduto convincente ed autentica senza dimostrare quella che una volta, nel diritto amministrativo classico, si chiamava la diligenza del buon padre di famiglia. Anche perché il padre di famiglia ad oggi, sia buono che cattivo, spesso usa la IA ed è soggetto alle allucinazioni.

Cosa dicono i giudici amministrativi?

Dicono che il dipendente è tenuto ad esercitare la propria riserva di umanità, SEMPRE, per verificare se il dato procurato della IA è vero. Il TAR ha osservato che un sistema generativo (una IA) può contribuire alla redazione di una bozza, organizzare informazioni o suggerire una formulazione, ma A PATTO CHE la MOTIVAZIONE FINALE sia effettivamente riferibile al soggetto che esercita il potere, senza risolversi nella trasposizione automatica di un testo prodotto dal sistema e recepito senza verifica. Occorre la verifica e ribadisce l’impiego della IA come strumento di supporto, servente e non sostitutivo.

L’intelligenza artificiale entra così nel procedimento amministrativo in fasi già note quali istruttoria, motivazione, imputabilità della decisione e responsabilità del soggetto che esercita il potere.

Fine 1^ parte.