EXPLAINABLE AI
Per far fronte alle nuove esigenze del mercato, l’AI deve fornire soluzioni a problemi sempre più sfidanti e gestire scenari sempre più complicati. Tramite l’utilizzo di modelli elaborati, chiamati modelli black-box, si ha un’inevitabile perdita di trasparenza e controllo a causa dei milioni di layers e parametri introdotto: questo pone il problema della fiducia rispetto al modo in cui gli algoritmi operano, e rispetto ai risultati prodotti
L’Explainable AI (XAI) è lo studio di metodologie volte a spiegare il funzionamento dei modelli di Machine Learning complessi. L’XAI permette di acquisire fiducia nei confronti degli algoritmi, necessaria quando le decisioni da prendere comportano responsabilità, mettendo in evidenza le variabili che influenzano maggiormente il risultato ottenuto. D’altra parte, l’XAI consente di garantire l’ etica nel modello, correggendo le eventuali distorsioni, come quelle discriminatorie.