From Black Box to Glass Box: rendere l’IA trasparente e comprensibile
Alla FAIR General Conference presentat il progetto From Black Box to Glass Box” (BigBox), sviluppato da Kode s.r.l. in collaborazione con il KDD Lab – Università di Pisa nell’ambito dei bandi a cascata FAIR del PNRR
Roma, 12 Dicembre 2025 – Ieri alla FAIR General Conference 2025 Andrea Spinelli e Chiara Baraglia di Kode hanno presentato il progetto “From Black Box to Glass Box” (BigBox), sviluppato da Kode in collaborazione con il KDD Lab – Università di Pisa nell’ambito dei bandi a cascata FAIR del PNRR – SPOKE 1 Human-Centered AI, ha come obiettivo principale la realizzazione di FairXAI, un framework modulare e scalabile per la spiegabilità dei modelli di IA.
In un contesto in cui i modelli di intelligenza artificiale complessi sono sempre più utilizzati in settori industriali, sanitari e finanziari, la trasparenza e la spiegabilità dei modelli diventano requisiti essenziali.
Il progetto ha l’obiettivo di fornire un framework modulare e scalabile che consente di spiegare, attraverso spiegazioni controfattuali basate su regole logiche, il funzionamento di modelli di intelligenza artificiale complessi, spesso percepiti come “black box”.
Grazie a FairXAI, il framework sviluppato nell’ambito del progetto, è possibile ottenere spiegazioni chiare e verificabili dei processi decisionali dei modelli di IA, attraverso strumenti di ottimizzazione dei modelli XAI esistenti (in particolare LORE e derivati), anche da parte di utenti non esperti.
L’innovazione di FairXAI consiste non solo nella spiegabilità dei modelli, ma anche nella possibilità di integrare diversi metodi di interpretazione in un unico sistema flessibile, pronto per applicazioni industriali e di ricerca. La piattaforma si distingue per:
- la sua architettura modulare ed estensibile,
- la compatibilità multi-dominio, in grado di lavorare su dati tabellari, immagini e serie temporali,
- un’interfaccia utente guidata, pensata per semplificare l’interazione con algoritmi complessi, per facilitare l’uso anche da parte di operatori non esperti.
Tra i principali benefici attesi, il progetto favorisce la fiducia e l’adozione dei sistemi di IA in ambiti sensibili come sanità, finanza e manutenzione industriale, promuovendo la trasparenza e l’uso responsabile dell’intelligenza artificiale. Inoltre, FairXAI contribuisce alla diffusione di una cultura dell’IA accessibile e interpretabile, includendo operatori e decisori nel processo di comprensione dei modelli.
Il progetto dimostra come la ricerca e l’innovazione possano trasformare la cosiddetta “black box” dell’IA in una glass box, accessibile e comprensibile, pronta per un uso sicuro e affidabile nei processi decisionali reali.
