Les assistants vocaux Google Home et Amazon Echo ont été mis en cause par des utilisateurs. Certains ont même été écouté et leurs conversations envoyées à leur insu.
Certains abus ont récemment été mis en lumière. A l’instar de ce couple d’Américains, qui discutait tranquillement et dont la conversation a été envoyée à l’un de leurs contacts sans qu’ils n’aient rien demandé. Leur téléphone a alors sonné, et leur interlocuteur leur a demandé de débrancher « tout de suite » leurs appareils Amazon, ces derniers ayant été « piratés ». « Nous avons débranché les appareils et il a poursuivi en disant qu’il a reçu des enregistrements audio de notre intérieur », rapporte Kiro des propos de Danielle. La famille de Portland, dont Alexa a écouté la conversation, dispose d’une enceinte connectée Echo dans chaque pièce de la maison pour contrôler la température, l’éclairage et également le système de sécurité. Après une panique compréhensible suite à la découverte que Amazon Echo a enregistré une conversation et a fait parvenir l’enregistrement à une personne sur la liste de contacts de la famille, la société a publié une explication.
Une explication peu convaincante
Dans un entretien au média américain Kiro7, elle raconte que cette discussion avec son mari a été envoyée par Alexa à un employé de celui-ci, vivant à Seattle (Etat de Washington). Alors qu’est-ce qui a cloché dans les méninges artificielles de l’IA d’Amazon pour qu’elle prenne cette décision ?
Le site américain The Verge est parvenu a faire parler un représentant d’Amazon, qui tente une explication : « Echo s’est enclenché parce qu’un mot dans la conversation en arrière-plan a sonné comme ‘Alexa’. Du coup, la conversation qui s’en est suivie a été comprise comme un message à envoyer. A un certain moment, Alexa a demandé « à qui ? » faire parvenir cette communication ? C’est alors qu’un autre mot dans la conversation a été interprété comme étant le nom d’une personne dans le carnet d’adresse. Alexa a alors demandé une confirmation : ‘A (nom du carnet d’adresse), n’est-ce pas ? ». Alexa a pris pour un ‘oui’ la conversation d’arrière-plan. Cette succession d’événements était très peu probable, et nous évaluons les différentes options qui la rendrons à l’avenir encore moins probable ».
Le géant du e-commerce a qualifié cet évènement de «très rare». Il assure qu’il ne s’agit pas d’une preuve que son enceinte écoute en permanence ses utilisateurs, une crainte récurrente vis-à-vis de ce genre d’appareil intelligent, mais plutôt d’un bug de son appareil. Il doit être corrigé.
Un problème qui n’est pas inédit
Cette affaire fait suite à plusieurs autres polémiques similaires concernant des intelligences artificielles enregistrant les conversations de leur propriétaire. En 2017 par exemple, un journaliste avait remarqué que son enceinte Google Home Mini mémorisait la totalité des paroles qu’elle entendait. Par ailleurs, une étude étasunienne a montré qu’en 2015 et 2016, ce type d’enceinte connectée pouvait être piratée afin d’être transformée en micro à distance. Ces problèmes auraient depuis été corrigés par les différentes firmes concernées.
