Questi ricercatori vogliono far capire a tutti come funziona l'Intelligenza Artificiale

Proprio in questo momento, all'interno del tuo telefono, si trova un modello di Intelligenza Artificiale pensato per comprendere il linguaggio umano. Se hai un iPhone, lo chiami Siri. Ma scommetto che non ne sai precisamente cosa sia o come funziona veramente.

Probabilmente interagisci con una qualche forma di IA ogni giorno, anche se non te ne rendi conto. Di sicuro, non possiedi nessuna voce in capitolo riguardo quali posti ti consiglia per cenare e quali articoli ti propone online. Questo privilegio appartiene alle persone che possiedono tali IA: aziende gigantesche come Google o Facebook. Sempre più esperti di informatica vedono questa scarsa trasparenza come un potenziale pericolo, dato che ci dirigiamo verso un futuro pieno di scatole nere che lavorano sullo sfondo della nostra vita digitale e la soluzione — secondo loro — è proprio quella di democratizzare l'accesso alle intelligenze artificiali.

A questo scopo, un team di informatici dell'Università della Pennsylvania guidato da Jason Moore sta lavorando allo sviluppo di un'interfaccia open source chiamata PennAI. Il loro obiettivo è rendere l'utilizzo di strumenti che sfruttano il machine learning "facile come usare un iPhone," per dirla nelle parole usate da Moore in un'intervista.

"Dato che i pacchetti di IA commerciali sono chiusi e piuttosto costosi, per gli utenti, capire il loro funzionamento resta un autentico mistero," ha spiegato Moore. "Se avete la sensazione che l'IA sia un qualcosa che non potete capire o a cui non potete avere accesso, non dovreste usarla. Anche se potete utilizzarla liberamente per vedere come funziona, sarebbe meglio se prima dedicaste del tempo a conoscerla."

PennAI vuole rendere l'utilizzo del machine learning più economico e relativamente facile per le persone comuni e le organizzazioni, compresi gli ospedali. Sul mercato, esistono già kit di IA workflow simili a PennAI, ma richiedono un sacco di lavoro da parte dell'utente (nel caso di Orange) o sono costose (come nel caso di MLJAR.)

La questione del rendere maggiormente comprensibili le decisioni prese dall'IA è diventata sempre più importante, poiché sta diventando sempre più chiara la loro fattibilità e le sue potenziali conseguenze. I ricercatori e i giornalisti stanno analizzando tutti i modi in cui l'IA può riprodurre i pregiudizi razzisti e sessisti degli esseri umani. Alcuni temono che l'IA, intanto che viene utilizzata come sorta di arma segreta delle corporation, possa riprodurre forme di oppressione del passato, come il metodo di discriminazione economica nota come redlining. Per molti, al momento, il problema principale con l'IA è semplicemente che le persone più colpite dalle decisioni di questi programmi possono solo subirle come spettatori esterni.

"I pacchetti commerciali di IA non rendono disponibile il codice sorgente, quindi, non è possibile farsi un'idea di cosa accada là dentro," ha spiegato Moore. "Questo è uno dei vantaggi di un pacchetto open source IA: tutti possono vedere cosa sta facendo".

PennAI è nelle fasi finali di sviluppo e sarà disponibile su GitHub già questo autunno, ha dichiarato Moore. Fino ad allora, si può consultare un paper pubblicato su arXiv. PennAI è una suite di workflow completa con un'interfaccia grafica di facile utilizzo che concede all'utente il controllo di quali modelli di IA utilizzare e di come ottimizzarli. Inoltre, spiega i processi all'utente e visualizza anche i "livelli" del modello di IA in modo da poter vedere cosa succede sotto la superficie. Moore desidera anche implementare un assistente virtuale stile Clippy per guidare gli utenti.

Ovviamente, esisterà sempre una certa curva di apprendimento per comprendere il machine learning, non importa quanto l'interfaccia sia intuitiva. Ma il primo passo per concedere una certa dose di potere agli utenti è proprio quello di fornire loro degli strumenti e, a questo fine, PennAI è un ottimo punto di partenza.