Perché Facebook, Google & co. inaugurano un consorzio per l’IA

Se c'è una cosa certa nel campo dell'intelligenza artificiale è la necessità di discutere delle conseguenze che il suo utilizzo sempre più pervasivo avrà in tutti gli ambiti della società. Non c'entrano le previsioni sui robot che domineranno il pianeta e altre visioni distopiche; c'entra il fatto che nel giro di pochi anni le intelligenze artificiali saranno chiamate a decisioni etiche molto importanti.

Un esempio concreto, e che fa capire quanto la questione sia urgente, riguarda le self driving car: come si comporterà un algoritmo davanti agli scenari più dilemmatici che si possono presentare? Che decisioni prenderà la IA che guida la nostra auto quando l'alternativa sarà tra investire un pedone e deviare all'improvviso, con il rischio di perdere il controllo dell'automobile? E in una decisione di questo tipo dovranno essere inclusi anche parametri sull'età della possibile vittima oppure no?

via GIPHY

Se a fondamentali tematiche etiche di questo tipo aggiungiamo il bot di Microsoft diventato nazista in meno di 24 ore, i timori riguardanti i robot che rubano il posto di lavoro agli esseri umani e la paura che all'orizzonte ci sia una Skynet capace di ridurre in schiavitù la razza umana, si capisce perché Facebook, Google, IBM, Microsoft e Amazon abbiano sentito la necessità di unire le forze nella non-profit chiamata Partnership on AI to benefit people and society.

"Ogni nuova tecnologia porta con sé dei drastici cambiamenti, e i cambiamenti spesso fanno paura alle persone che non li riescono a capire", ha spiegato il direttore del dipartimento IA di Facebook, Yann LeCun. "Uno degli scopi di questo gruppo è spiegare e comunicare le potenzialità dell'intelligenza artificiale, in particolare i suoi pericoli e le questioni etiche di base." Per farla breve, gli obiettivi di questa associazione, presentata al mondo settimana scorsa, sono tre: facilitare la comunicazione tra le imprese che lavorano sulla AI, coinvolgere accademici ed esponenti della società civile per avere uno sguardo più ampio e meno condizionato da interessi economici, informare il pubblico sugli sviluppi nel campo dell'intelligenza artificiale.

Per il momento, il coinvolgimento di accademici e società civile è solo sulla carta, e sarà importante vedere, nel futuro, se e come questo auspicio si concretizzerà. Perché, al netto delle dichiarazioni di prammatica, il sospetto che regna un po' ovunque è che i veri obiettivi di questo consorzio siano altri: rassicurare la popolazione (per evitare che facciano pressioni sui governi portandoli a regolamentare in maniera restrittiva) e fare lobbying per contribuire attivamente a dare forma al quadro legislativo e regolamentativo.

D'altra parte, il comportamento della Partnership on AI è già ambiguo: da una parte si specifica come il gruppo non agirà come "polizia della ricerca sull'intelligenza artificiale", dall'altra parte uno dei principi fondanti recita: "(Lavoreremo per) opporci allo sviluppo e all'uso di tecnologie IA che potrebbero violare le convenzioni internazionali sui diritti umani e per promuovere tecnologie che non siano pericolose". È tollerabile che un consorzio formato (almeno per il momento) solo da enormi corporation possa fare da polizia mondiale della ricerca sulla IA?

Only an ethics alliance between Goldman Sachs, Deutsche Bank, and JP Morgan would be more laughable! https://t.co/Q9Bi86lKR0 pic.twitter.com/mWujXs6xR3
— Evgeny Morozov (@evgenymorozov) 29 settembre 2016

La reazione di Morozov ("Solo un'alleanza etica tra Goldman Sachs, JP Morgan e Deutsche Bank farebbe più ridere") sarà anche prevedibile, ma non per questo si può credere ciecamente all'impegno etico di colossi tech che hanno interessi economici enormi: un paper di Research and Market stima (rimanendo prudente) in 25 miliardi di dollari il valore del mercato globale che ruoterà attorno all'intelligenza artificiale da qui a 10 anni. Non stupirebbe scoprire che il vero scopo di questa sorta di Justice League tecnologica fosse quello di dare il giusto spin al discorso sull'intelligenza artificiale, sulle sue potenzialità e sui suoi pericoli.

Si sono fatti parecchi parallelismi tra la Partnership on AI e la Open AI. Le similitudini, però, vanno poco oltre il nome: la piattaforma open source finanziata, tra gli altri, anche da Elon Musk è fondamentalmente dedita alla ricerca e sviluppo; mentre nel caso di Google, Facebook & co. si tratta di lavorare sulle possibili conseguenze delle tecnologie legate alla AI e al modo in cui questo settore viene percepito dal pubblico. Per il momento, inoltre, non sembra che la non profit guidata da Musk abbia in animo di collaborare con la Partnership, soprattutto se si considerano i tweet "passivo-aggressivi" che le sono stati riservati.

We're looking forward to non-profits being included as first-class members in the future.
— OpenAI (@OpenAI) 28 settembre 2016

Altre realtà che, per ora, hanno rifiutato di unirsi al super-gruppo sono Apple e Intel. Se la situazione di Intel fa storia a sé, nel caso di Apple c'è poco da stupirsi: Cupertino da sempre preferisce lavorare per conto proprio e in segretezza. L'intelligenza artificiale non fa eccezione, anche se si sospetta che, nonostante gli sforzi, Apple sia un po' indietro rispetto ai competitor. Se Cupertino potrà concedersi il lusso di continuare a giocare a "mi si nota di più se", di conseguenza, è ancora tutto da vedere.