Perché l’IA non può sostituire la valutazione dell’accessibilità digitale
L’Intelligenza Artificiale presenta limiti significativi nella valutazione dell’accessibilità digitale per il rispetto della normativa in materia di accessibilità, rendendo il controllo umano insostituibile, sia mediante audit condotti dagli esperti di accessibilità sia mediante test effettuati con gli utenti con disabilità. Tra i limiti principali, vi è l’impossibilità di analizzare tutto il codice e di prendere in considerazione tutti gli standard WCAG di accessibiltià.
Come funziona l’intelligenza artificiale:
Negli ultimi anni l’utilizzo dell’intelligenza artificiale è divenuto sempre più parte della nostra quotidianità. Ma cos’è l’intelligenza artificiale? E soprattutto come funziona? L’intelligenza artificiale è una tecnologia che permette a macchine e computer di simulare l’apprendimento e il comportamento decisionale umano. Per le piattaforme IA più comunemente utilizzate si parla di intelligenza artificiale generativa, che è un tipo di intelligenza artificiale che utilizza algoritmi d’apprendimento automatico, ovvero Machine Learning, per generare nuovi contenuti che in precedenza si basavano sulla creatività dell’uomo. Questi tipi di IA sono anche dette Large Language Model, poiché elaborano enormi quantità di dati e informazioni al fine di permettere a queste piattaforme di generare contenuti siano essi: testi, immagini, audio, video o linee di codice.
I Pro dell’utilizzo dell’intelligenza artificiale
Stiamo quindi parlando di sistemi complessi che, per rispondere a quello che noi chiediamo (definito in modo tecnico prompt), attingono a un’enorme mole di risorse e informazioni, che elaborano con una potenza di calcolo infinitamente superiore a quella umana. Le piattaforme più comuni hanno un’interfaccia che funziona analogamente ad una chat di messaggistica. L’intelligenza artificiale generativa potrebbe aiutarci ad elaborare meglio un concetto, a sintetizzare un testo, mettere in ordine dei dati e darci delle informazioni specifiche. Oppure potrebbe essere utilizzata per riscrivere una mail, creare una presentazione o confrontare le informazioni contenute in diversi documenti. Infine, potrebbe essere integrata con sistemi di automazione industriale, ad esempio, per compiere operazioni ripetitive e di precisione. In altre parole, l’intelligenza artificiale potrebbe semplificare e velocizzare alcuni processi, permettendo così alle persone di concentrarsi sugli aspetti decisionali e a maggior valore aggiunto.
I Contro dell’utilizzo dell’intelligenza artificiale
Fonti non sempre affidabili
Come però accennato in precedenza, i risultati che le piattaforme d’intelligenza artificiale ci forniscono si basano sull’elaborazione di una enorme mole di dataset e l’efficacia delle loro risposte è quindi legata all’accuratezza e veridicità delle fonti che utilizzano. Delle fonti che molto spesso vengono prese da internet o addirittura potrebbero rivelarsi inventate. Fonti che potrebbero non essere aggiornate, offrire informazioni false o tendenziose, dette allucinazioni.
L’IA ci dà sempre ragione
Vi potrebbe essere però un altro limite, quello relativo al modo in cui viene formulato il prompt che è fondamentale per determinare la posizione che prenderà l’intelligenza artificiale su un determinato tema. Per esempio, chiedere “Fammi una lista dei pro e dei contro di questa cosa?” è diverso che chiedere “Dimmi perché questa cosa non va bene”, nel secondo caso la risposta che verrà data potrebbe essere focalizzata su trovare tutti gli aspetti negativi di quella cosa, forzando anche certe conclusioni e nessi logici, pur di dare sempre ragione a chi fa la richiesta. Insomma, l’IA tende ad essere accondiscendente con chi la utilizza: non contraddice l’utente e non dà quindi pareri e informazioni oggettivi.
I costi dell’IA
Far funzionare l’intelligenza artificiale richiede costi non solo in termini economici, ma anche in termini di risorse ambientali, che risultano già di per sé scarse. I grandi centri di elaborazione dati (anche detti data center) richiedono il consumo di elettricità per funzionare ininterrottamente. Oltre a questo, sono necessarie ampie porzioni di terreno per allocare queste infrastrutture ed abbondanti riserve di acqua per raffreddare i circuiti ed evitare che si surriscaldino. Con il maggior utilizzo dell’intelligenza artificiale è anche aumentata la costruzione di nuovi data center che hanno scatenato proteste da parte di gruppi ambientalisti e cittadini.
La protezione dei dati sensibili
Molti hanno anche sollevato dubbi sul modo in cui vengono trattati i dati dalle piattaforme di intelligenza artificiale, un processo non del tutto regolato e trasparente, dal momento che è in capo a poche aziende statunitensi e cinesi. Da una parte si pone un problema legato al rispetto della privacy da parte delle piattaforme: le informazioni che diamo in pasto all’Intelligenza artificiale, come ad esempio la condivisione dei nostri dati personali, potrebbero essere trattati da terze parti in modo poco chiaro, o utilizzate per addestrare la stessa piattaforma a rispondere in modo più preciso. Dall’altra parte, l’intelligenza artificiale potrebbe non garantire alle aziende la corretta protezione dei loro dati sensibili, come progetti, schemi, dati commerciali e altre informazioni riservate.
Preoccupazioni per il mondo del lavoro
Infine, l’adozione massiccia di strumenti basati sull’intelligenza artificiale solleva preoccupazioni nel mondo del lavoro, perché potrebbero sostituire numerose professioni, mettendo a rischio milioni di posti di lavoro. A correre il rischio maggiore sono i giovani, i lavoratori che svolgono mansioni entry level, come gli operatori dei call center, ma anche le attività consulenziali.
Intelligenza artificiale per l’accessibilità digitale
In questo contesto, viene naturale chiedersi se l’IA non possa essere utilizzata per migliorare l’accessibilità digitale.
Come per altri possibili ambiti di applicazione, l’IA può rappresentare un’opportunità, se adoperata con la consapevolezza dei suoi limiti, oppure una minaccia se vi ci si affida acriticamente.
Posso usare l’AI per fare la valutazione di accessibilità?
No, se pensi di delegare l’analisi interamente all’AI. Sì, se la utilizzi per avere un’overview generale, da approfondire mediante test manuali effettuati da esperti. In questo, non c’è grande differenza con i validatori, come Wave e Mauve++, strumenti in grado di scansionare le pagine web e di rilevare solo una piccola parte delle non conformità.
LLM come Chat GPT e Claude promettono però performance superiori ai validatori, poiché dovrebbero riuscire ad analizzare anche la parte semantica e tramite gli agenti dovrebbero riuscire a simulare il comportamento degli utenti. Tuttavia, questo non sembra accadere.
I limiti dell’intelligenza artificiale per la valutazione di accessibilità
Abbiamo testato ChatGPT e Claude per l’analisi dell’accessibilità digitale di alcuni siti, confrontando i risultati con i report fatti da un nostro esperto di accessibilità. Ecco cosa è emerso:
- Abbiamo constatato che, come con i validatori automatici, gli strumenti AI-based riescono ad analizzare solo alcuni criteri di successo delle WCAG 2.1. Non permetterebbero, cioè, di ottenere un’analisi completa;
- Individuano non conformità inesistenti o che un valutatore esperto giudicherebbe come buone pratiche, non veri errori;
- Stranamente, analizzano il codice HTML, ma non il CSS e i file correlati;
- L’ analisi potrebbe risultare limitata dal mancato accesso ad aree riservate o peggio, completamente bloccata in alcuni siti che possono identificare questi strumenti come bot.
- L’analisi AI-based non è in grado di comprendere appieno la semantica: ad esempio, può individuare la presenza o assenza di elementi funzionali all’accessibilità, come testi alternativi e etichette, ma non di comprendere con accuratezza se sono adeguati al contesto e se soddisfano i bisogni informativi dell’utente.
Il valore del controllo umano
Come abbiamo potuto notare fino a qui, non è possibile delegare all’intelligenza artificiale la valutazione dell’accessibilità. Restano essenziali gli audit manuali effettuati da esperti per identificare reali problemi nella navigazione e testare tutte le WCAG.
Sono soprattutto i test fatti da utenti reali con disabilità che utilizzano quotidianamente le tecnologie assistive a fornire indicazioni sulle barriere digitali bloccanti e sugli elementi che impattano sulla reale fruizione del contenuto digitale. Quale valutazione migliore se non quella fatta da chi il tema dell’accessibilità lo vive ogni giorno, senza la quale non potrebbe fare anche le cose più banali: da prenotare un albergo a fare il cambio di residenza all’anagrafe online.
In conclusione, la valutazione manuale non può essere sostituita da sistemi di validazione automatici e basati sull’intelligenza artificiale. Questi possono, al limite, supportare l’esperto di accessibilità in fase di analisi e utilizzati sotto il suo controllo.
Fonti
No. Nessuno strumento automatico verifica o ripara l’accessibilità di un sito Web
Tavola Rotonda: accessibilità e Intelligenza Artificiale – Esplorando il futuro inclusivo
Am AI Accessible? Intrecci presenti e futuri fra Intelligenza Artificiale ed Accessibilità