Il discorso sull'intelligenza artificiale include il concetto di black box, che nonostante il nome non ha nulla a che vedere con la scatola nera degli aerei. Si parla di black box perché l'algoritmo intelligente, una volta addestrato, genera risultati basati su meccanismi del tutto oscuri. Nemmeno i programmatori, infatti, sarebbero in grado di spiegare con precisione che cosa ha portato a una certa risposta o decisione. Questo è, tra l'altro, parte del problema del pregiudizio (bias) che spesso si è fatto strada negli algoritmi senza che gli sviluppatori ne avessero l'intenzione.
Questo offre un vantaggio concreto su cui Andrea Ridi, fondatore e dirigente di Rulex, sta giocando la propria partita. Si tratta della trasparenza: gli algoritmi di Rulex infatti non si limitano (si fa per dire) a dare delle risposte, ma sono anche in grado di spiegare come ci sono arrivati. Nel caso che la risposta riveli una regola sbagliata o insoddisfacente, sarà possibile modificarla.
Prendiamo il pregiudizio di cui si parlava prima: un sistema di deep learning tradizionale potrebbe decidere che alle donne vanno offerti lavori meno prestigiosi rispetto agli uomini, basandosi sui dati storici. Anche il sistema di Rulex darebbe la stessa risposta, ma in questo caso sarebbe possibile modificare la regola in pochi attimi - azione impossibile invece con altri sistemi.
Il cofondatore Andrea Ridi ci ha spiegato che in Rulex lavorano ormai da dieci anni sullo sviluppo scientifico; da tre anni circa sono sul mercato e hanno trovato un enorme successo, con una crescita del 400% ogni anno. Grazie anche al prezioso contributo dell'altro cofondatore Marco Muselli, che tra le altre cose è firmatario di oltre 100 pubblicazioni scientifiche e primo ricercatore del CNR.
Hanno creato, nel dettaglio, due sistemi separati: il primo è dedicato all'analisi dei dati, alla loro organizzazione e alla "pulizia". Successivamente il sistema individua pattern ripetuti per creare le regole di applicazione. L'altro sistema è quello che invece "dà le risposte" e che, grazie all'azione del primo sistema, si può mettere in piedi in tempi rapidissimi - pochi giorni anche per le situazioni più complesse.
"Rulex trova regole che persino il personale molto esperto non conosce, e permette così agli esperti di essere più predittivi e precisi, di esporre rischi nascosti e inefficienze, di rendere possibili le correzioni".
Secondo quanto ci ha spiegato Ridi, Rulex è un sistema unico al mondo per approccio e funzionalità. Ma c'è anche un secondo vantaggio, che riguarda il nuovo regolamento europeo sulla privacy, noto come GDPR. La nuova normativa prevede che i consumatori potranno chiedere in che modo sono usati i loro dati personali. E secondo Ridi questo renderà illegali i sistemi di Deep Learning attualmente in uso - anche se è lecito ipotizzare che tanto i legislatori quanto le aziende si organizzeranno per evitare grossi problemi.