Uno strumento olistico nel campo dell’Intelligenza Artificiale Spiegabile (XAI)

Il gruppo di lavoro di Exprivia impegnato sul progetto GRINS, in collaborazione con i partner accademici dell’Università di Bergamo (UniBG), ha condotto studi innovativi nel campo dell’utilizzo dell’Intelligenza Artificiale Spiegabile (XAI) in ambito piattaforme dati, con particolare focus sulla data knowledge platform AMELIA.

La XAI rappresenta il meccanismo essenziale per conciliare le prestazioni eccezionali dei modelli di AI con i principi FAIR e SAFE, garantendo che le informazioni ricavate dall’IA rimangano trasparenti e eticamente fondate. Ciò è, ad esempio, sancito dall’AI Act dell’UE, in cui la “spiegabilità” costituisce un imperativo normativo e strategico per garantire la responsabilità e la fiducia in qualsiasi ecosistema di dati

L’articolo, che racchiude i maggiori risultati di questi studi, presenta ExplAInator, uno strumento olistico e indipendente dal particolare modello, che consente agli utilizzatori di ottenere una “spiegazione multilivello” dei modelli di machine learning precedentemente addestrati, producendo metriche di interpretabilità delle decisioni prese dal modello a partire dall’input. Questo strumento è stato implementato all’interno di AMELIA ed è disponibile nel catalogo servizi della piattaforma stessa.

Uno strumento olistico nel campo dell’Intelligenza Artificiale Spiegabile (XAI) in ambito piattaforme dati