Gli assistenti vocali, come quelli della serie Amazon Echo, vanno trovando sempre più posto nelle case per assolvere ai compiti più disparati: consentono per esempio di gestire i dispositivi di domotica, ma possono anche costituire un passatempo più o meno divertente, raccontando barzellette e notizie curiose, sottoponendo indovinelli e proponendo semplici “sfide”.
Ciò che bisogna tenere sempre a mente interagendo con essi è che, per quanto siano gestiti da una cosiddetta “intelligenza artificiale”, bastano una svista o un errore da parte dei programmatori e si possono verificare situazioni incresciose, quando non addirittura pericolose.
A ricordare che la IA è tutt’altro che perfetta è ora il recente caso di una bambina americana di dieci anni che lo scorso 26 dicembre, annoiandosi, ha chiesto ad Alexa tramite l’Amazon Echo di casa di proporle una sfida da eseguire. Alexa, obbediente, ha eseguito, ma la sfida in questione era tutt’altro che innocente.
«La sfida è semplice» ha annunciato l’assistente vocale. «Infila il caricabatterie del telefono nella presa di corrente solo a metà, e poi tocca con una monetina i contatti esposti».
«Ero lì anch’io» ha raccontato poi su Twitter la madre, Kristin Livdahl. «E ho gridato “No, Alexa! No!” come se fosse un cane». Il fatto che la donna fosse presente è stato senz’altro provvidenziale anche se, come spiega un ulteriore tweet, «mia figlia mi ha detto che era comunque troppo sveglia per fare qualcosa del genere».
Poiché gli Stati Uniti sono il Paese che alcuni anni fa s’era riempito di ragazzini che “si sfidavano” a mangiare le tavolette di detersivo (la famigerata Tide Pods challenge) e che ha visto esplodere più di recente anche la Coronavirus Challenge, possiamo con una certa sicurezza affermare che ad ascoltare la sfida di Alexa ci sarebbe anche potuto essere un soggetto meno brillante, e che magari avrebbe anche trovato sensata l’idea di accoglierla, rischiando quantomeno la folgorazione.
Si capisce facilmente che cosa deve essere successo: per poter fornire fatti, indovinelli, barzellette e sfide, Alexa scandaglia il web e da lì trae le proprie informazioni. Possiamo immaginare che ci sia una sorta di filtro che blocchi i contenuti pericolosi ma, evidentemente, nel caso della ragazzina americana non deve aver funzionato.
Alexa stessa, proponendo la sfida, ha in effetti ammesso di aver ricavato l’idea proprio da un sito web, ossia ourcommunitynews.com che però, al momento in cui scriviamo, non pare essere attivo.
Informata di quanto accaduto, Amazon non ha voluto spiegare la causa del problema ma ha comunque affermato di averlo risolto: «La fiducia degli utenti è al centro di tutto ciò che facciamo e Alexa è progettata per fornire informa precise, pertinenti, e utili» ha fatto sapere un portavoce. «Non appena ci siamo resi conto dell’errore, abbiamo agito rapidamente per sistemarlo».
Kristin Livdahl ha poi raccontato anche che non era la prima volta che la figlia si affidava alla tecnologia per ricevere una “sfida” da compiere: aveva già raccolto da YouTube alcuni suggerimenti pubblicati da un insegnante di educazione fisicama, complici l’abbassarsi delle temperature e la necessità di stare in casa, ora «ne voleva un’altra».
E lì, pronto a prendere ordini, c’era l’Echo, che «era un regalo e usavamo per lo più come timer e per riprodurre canzoni e podcast».
La donna ha preso l’accaduto con una certa filosofia. «È stato un buon momento per parlare della sicurezza in Internet e di come sia bene non fidarsi di quanto si legge senza fare ulteriori ricerche e verifiche. Pensavamo che quella fogna di YouTube fosse la nostra preoccupazione principale a questa età – poiché l’accesso a Internet e ai social network è limitato – ma evidentemente non è l’unica cosa».