Usare strumenti di AI per informarsi sulla normativa in materia di disabilità può portare a decisioni sbagliate. Il Centro Antidiscriminazione Franco Bomprezzi spiega come orientarsi in modo sicuro.
Sempre più persone con disabilità e caregiver si rivolgono agli strumenti di intelligenza artificiale (ChatGPT, Google Gemini, Claude sono tra i più diffusi) per ottenere informazioni su invalidità civile, legge 104, indennità di accompagnamento o altre tematiche relative alle norme in materia di disabilità
È una tendenza comprensibile: questi strumenti sono disponibili a qualsiasi ora, sono gratuiti, rispondono in modo chiaro e rassicurante. Ma nascondono dei rischi.
Le legali del Centro Antidiscriminazione Franco Bomprezzi ricevono con frequenza crescente richieste di informazioni basate su informazioni errate o non aggiornate, generate proprio da questi strumenti: norme citate in modo non appropriato, benefici inesistenti, procedure non più in vigore, soglie ISEE riferite ad altre Regioni o ad anni precedenti.
Chi usa i chatbot per cercare informazioni lo fa in buona fede, e spesso riceve risposte che sembrano affidabili. Il problema è che i sistemi di intelligenza artificiale tendono ad assecondare, a confermare, a rassicurare. Anche quando hanno torto.
Le ragioni sono strutturali e indipendenti dalla qualità dello strumento utilizzato.
I dati di addestramento hanno una “scadenza"
Gli strumenti di intelligenza artificiale vengono addestrati su un patrimonio di dati raccolti fino a un certo momento, superato il quale le loro conoscenze rimangono ferme. In materia di disabilità questo è un limite critico: le soglie ISEE, i criteri di accesso ai servizi, le procedure di richiesta delle prestazioni possono cambiare. Uno strumento AI può citare con precisione una normativa che nel frattempo è stata modificata o sostituita, senza alcun segnale di aggiornamento, ma soprattutto non è in grado di calare la norma nella situazione specifica.
La normativa sulla disabilità è territoriale
La disciplina in materia di disabilità opera su tre livelli: nazionale (leggi, decreti, circolari INPS), regionale (in Lombardia, delibere e criteri propri della Regione) e locale (procedure specifiche di ATS, Comuni e ambiti territoriali). Gli strumenti di AI tendono a rispondere al livello nazionale, trattando le norme come uniformi su tutto il territorio. Nella pratica, le differenze (tra una Regione e l'altra, tra un Comune e l'altro), tra un caso e un altro possono essere decisive per l'esito di una richiesta.
Il fenomeno delle "allucinazioni"
Gli strumenti di intelligenza artificiale soffrono di un difetto strutturale noto come "allucinazione": quando non dispongono di una risposta precisa, tendono comunque a produrre un testo coerente e apparentemente fondato, citando norme, riferimenti normativi e procedure che non esistono o non sono pertinenti. Il risultato viene presentato con lo stesso tono assertivo di una risposta corretta, senza alcuna indicazione che si tratti di un'informazione non verificata. È questo, più di ogni altro limite, a rendere questi strumenti particolarmente rischiosi.
Sconsigliare l'uso dell'intelligenza artificiale in assoluto non è né realistico né utile. Esistono impieghi appropriati, anche in questo contesto.
L'AI può essere uno strumento efficace per comprendere il linguaggio burocratico di un documento già in possesso dell'utente (una lettera dell'INPS, una delibera comunale, una comunicazione dell'ATS) chiedendo una spiegazione in termini semplici. Può essere utile anche per rivedere la forma di una comunicazione scritta: correggere refusi, uniformare il registro, rendere il tono più adeguato al destinatario.
Non è invece uno strumento affidabile per sapere a quali prestazioni si ha diritto, quali procedure seguire, quali scadenze rispettare o come interpretare una norma rispetto a una situazione specifica.
Un'informazione errata in materia di disabilità non è solo un inconveniente: può tradursi in una domanda presentata fuori tempo, in un diritto non riconosciuto, in mesi di attesa persi e creare malintesi difficili da recuperare. Le legali del Centro Antidiscriminazione Franco Bomprezzi offrono consulenza gratuita a famiglie e persone con disabilità in Lombardia. Se pensate di avere bisogno mettetevi in contatto con noi.
