Come evitiamo di produrre oggetti che risolvano problemi inesistenti

Gli assistenti vocali dotati di intelligenza artificiale stanno gradualmente penetrando nelle nostre abitazioni, introducendo un’esperienza innovativa per l’utente che si trova a interagire con un oggetto intelligente in grado di prevedere, anticipare, e, a volte, sbagliare i suoi bisogni — o addirittura spaventarlo con risate inaspettate nel cuore della notte.

I prodotti che sfruttano l’IA richiedono quindi un approccio al design sempre più centrato sull’essere umano, per evitare di trovarci con in mano un martello intelligente e trasformare tutto in un chiodo. Proprio uno dei designer di Google che si trova a capo del team di UX for People + AI Research, Josh Lovejoy, ha recentemente sottolineato in un post relativo alla progettazione di oggetti intelligenti che “se non sei allineato ai bisogni degli utenti rischi di finire con il produrre un sistema molto potente che risolve un problema piccolissimo — o addirittura inesistente.”

In occasione dei Digital Design Days — un evento dedicato al design, all'innovazione, alle tecnologie e alla creatività che si è svolto a Milano dal 16 al 18 marzo — Motherboard ha avuto l’opportunità di intervistare Triona Butler, UX Designer di Google per i progetti Google Wifi e Google Home, e cercare di capire in che modo l’apporto attivo dell’utente diventa centrale nel design di oggetti intelligenti, rendendo così l’esperienza di una persona con un’IA ricca e significativa.

La seguente intervista è state editata per necessità di chiarezza e lunghezza.

MOTHERBOARD: Com’è la tua esperienza quotidiana con gli oggetti dotati di intelligenza artificiale?
Triona Butler: Un prodotto che utilizzo ogni giorno è Google Photos: il suo sistema di ricerca permette di snellire il processo, organizzando le immagini autonomamente. Questo è un ottimo esempio di come un sistema può capire gli obiettivi e i bisogni degli utenti. Scattiamo quotidianamente così tante foto che è molto importante avere strumenti di questo tipo per districarci fra di esse e dare loro un significato.

Quali sono le caratteristiche necessarie per offrire all’utente un’ottima esperienza con i prodotti dotati di intelligenza artificiale?
Al momento sto ancora esplorando le possibilità offerte dall’IA e il ruolo della user experience all’interno dell’IA, ma credo che comprendere quali siano gli obiettivi e i bisogni reali degli utenti e creare un sistema che li supporti siano veramente dei passaggi fondamentali per creare un buon prodotto.

Credo che l’IA sia solamente uno strumento che permette di avere un’esperienza migliore, tutto ruota intorno ai bisogni e agli obiettivi degli utenti e focalizzare il sistema su di essi.

Perché l’IA costringe a ripensare cosa è possibile nell’esperienza che abbiamo con gli oggetti?
Se ci poniamo dal punto di vista più astratto del design, quella che abbiamo di fronte è chiaramente una grande sfida. Si tratta di un nuovo modo di relazionarsi con il contenuto. È molto interessante il cambiamento introdotto dalle interfacce vocali: ci ha costretto a ripensare il modo in cui interagiamo con i computer. Ci ha costretto a porci delle domande per capire cosa vuol dire avere una conversazione naturale con un computer e come progettarla.

Con l’introduzione delle IA c’è il bisogno di allargare il set di competenze, che non sono necessariamente nuove — potrebbero essere competenze di altri settori che non avevamo pensato fossero necessarie per questo contesto.

Credo che, a mano a mano che ci immergiamo sempre di più nel mondo dell’IA, la fase di creazione di prototipi e la comprensione di come questi strumenti possono esserci d’aiuto sarà molto interessante. È chiaramente una sfida eccitante. Mi ricorda un po’ il passaggio che c’è stato con l’avvento degli smartphone: non dovevamo più progettare per un unico tipo di schermo, ma avere un approccio olistico.

Come possiamo evitare gli effetti negativi dovuti agli errori commessi da algoritmi di IA?
Dobbiamo evitare di scontrarci con dei bias che possono essere stati introdotti da un particolare gruppo che ha uno specifico punto di vista sul mondo.

È quindi essenziale coinvolgere un gruppo eterogeneo di persone con competenze diverse e allo stesso tempo, dobbiamo parlare a un gruppo eterogeneo di utenti e capire i loro bisogni e tutte le diverse possibilità che abbiamo. È molto interessante, inoltre, pensare che molto di quello che dell'intelligenza artificiale appare sull'interfaccia utente abbia a che fare con la probabilità: si tratta di un contenuto molto meno consistente o specifico rispetto a quelli con cui prima eravamo abituati a lavorare noi designer. Il contenuto è diventato molto fluido e dinamico. In qualche modo dobbiamo invitare gli utenti ad aiutarci e aiutare direttamente anche il prodotto ad apprendere. Le persone sono entusiaste di essere coinvolte e trattandosi di un prodotto che li aiuterà nella loro vita vogliono effettivamente poter dire: qui ci sono le cose che contano per me ed è quello che mi interessa.

Quindi penso che i sistemi di intelligenza artificiale debbano probabilmente avere dei modi per coinvolgere gli utenti direttamente, per essere addestrati. È quasi un modo diverso di pensare all'errore: sapendo che il sistema non sa tutto, abbiamo bisogno di fornire quegli input per aiutarlo a imparare.

Pensi che, in futuro, i prodotti che incorporano intelligenze artificiali diventeranno molto più proattivi, anticipando le esigenze degli utenti?
L’aspetto interessante di questa discussione è che si pensa che l’automazione sia il risultato finale da raggiungere, ma in realtà in molte applicazioni già vediamo lungo il percorso dei risultati importanti che non richiedono la completa automazione, come ad esempio la semplificazione delle attività e la possibilità di presentare i contenuti al momento migliore quando sono veramente necessari, sia dal punto di vista temporale che spaziale.

Per raggiungere questi obiettivi, ricevere input direttamente dagli utenti è essenziale: a volte è utile che le persone dicano direttamente cosa vogliono e permettere al sistema di rispondere in modo intelligente. In questo modo avremo un’esperienza ancora più personalizzata.