Amazon vuole mettere una telecamera e un microfono in camera tua

Amazon vuole dare un paio di occhi ad Alexa. E il permesso di giudicare come ci vestiamo.

Annunciato ufficialmente da poco, Echo Look è un assistente virtuale dotato di microfono e videocamera, che è progettato per occupare un punto della camera da letto, del bagno o in qualsiasi altra stanza usiate per vestirvi ogni giorno.

Amazon l'ha presentato come uno strumento funzionale per scattare foto del vostro abbigliamento e inviarle agli amici quando non siete sicuri di essere vestiti carini, ma ha anche una app interna chiamata StyleCheck su cui vale la pena spendere un paio di parole in più.

• L'idea che siano algoritmi, machine learning e "specialisti della moda" a decidere se siete attraenti o meno non vi crea il minimo problema? Quali pregiudizi inconsci avrà mai un'intelligenza artificiale modaiola? È bene ricordare che, non tanto tempo fa, un'intelligenza artificiale messa a giudicare le partecipanti di un concorso di bellezza ha scelto praticamente solo vincitrici bianche.
• L'idea che Amazon possa improvvisamente vedere e magari catalogare ogni singolo capo di abbigliamento che possedete non vi crea il minimo problema? Chi ha bisogno di un pulsante automatico per ordinare mutande di Calvin Klein, se il vostro Echo può stabilire da solo quando è caso di comprare mutande nuove? Alexa riuscirà almeno a impedirvi di comprare un paio di orrendi jeans a forma di tenda?
• L'idea che Amazon ficchi una telecamera nella vostra camera da letto non vi crea il minimo problema?
• Amazon raccoglie immagini e video fatti da Echo Look senza una scadenza precisa, ci ha detto l'azienda. Le registrazioni audio fatte da un modello di Echo originale sono già state richieste come prova in un caso di omicidio; va detto che Amazon si è battuta contro un mandato di perquisizione in quell'occasione.

"Tutte le immagini e i video fatti con il tuo Echo Look sono conservati in modo sicuro nel cloud AWS e localmente nella app Echo Look, finché non è il cliente stesso a cancellarle," ha detto un portavoce dell'azienda. "È possibile cancellare le foto o i video associati con il proprio account in qualsiasi momento sulla App Echo Look."

Motherboard ha anche chiesto se le foto, i video e i dati raccolti da Echo Look vengano venduti a terze parti; l'azienda non ha risposto alla domanda.

Come sottolinea la sociologa della tecnologia Zeynep Tufekci, il machine learning in combinazione con foto e video a figura intera ha — come minimo — il potenziale per essere usato per molto più che vendere vestiti o subissare di pubblicità una persona. Amazon guadagnerà improvvisamente la capacità di fare cose come individuare una gravidanza in corso o magari anche uno stato di depressione. Vi consiglio di leggere il thread di tweet di Tufekci per intero.

Sentite, le persone comprano gli assistenti personali perché sono un oggetto divertente di cui vantarsi quando dai una festa, sono fighi, in certi casi addirittura utili. Mio padre ha comprato a mia madre un Google Home perché avevano già qualsiasi altro dispositivo, volevano solo una cosa nuova in più. Questi oggetti rendono la nostra vita appena appena più semplice e, in un certo senso, ci fanno sentire di vivere davvero "nel futuro."

In pratica, l'Echo Look non è molto diverso da, per esempio, una videocamera Nest o un baby-monitor connesso a internet (quest'ultimo viene hackerato in continuazione, tanto perché lo sappiate). Ma l'aggiunta di un'intelligenza artificiale e la tendenza di Amazon all'usare i propri prodotti per vendere ancora più roba, contribuisce a far apparire il tutto un po' più Black Mirror del solito.