Des milliers d'employés d'Amazon écoutent les demandes d'Alexa à des fins d'amélioration [Mise à jour]

Amazon a des milliers d'employés dans le monde qui écoutent des enregistrements vocaux capturés dans les maisons des propriétaires d'Amazon Echo, rapporte Bloomberg .

Les enregistrements vocaux sont capturés lorsque le mot de réveil Alexa est prononcé, puis un sous-ensemble de ces enregistrements est écouté, transcrit, annoté et ajouté au logiciel dans le cadre des efforts d'Amazon pour aider Alexa à mieux répondre aux commandes vocales. Amazon dispose d'installations pour l'amélioration d'Alexa dans des endroits allant de Boston au Costa Rica, en Inde et en Roumanie.

Sept personnes familières avec le processus d'examen d'Amazon ont parlé à Bloomberg et a révélé des détails d'initiés sur le programme qui pourraient inquiéter les utilisateurs d'Echo.

Alors qu'une grande partie du travail a été décrite comme « banale », les employés ont parfois rencontré des enregistrements plus privés, comme une femme chantant faux sous la douche ou un enfant criant à l'aide. Les employés d'Amazon disposent de salles de discussion internes où ils partagent des fichiers lorsqu'ils ont besoin d'aide pour analyser un mot ou, plus préoccupant, lorsqu'un « enregistrement amusant » est trouvé.

Deux ouvriers ont dit Bloomberg qu'ils ont entendu des enregistrements bouleversants ou potentiellement criminels, et bien qu'Amazon prétende avoir mis en place des procédures pour de tels événements, certains employés se sont fait dire que ce n'était pas le travail de l'entreprise d'intervenir.

Parfois, ils entendent des enregistrements qu'ils trouvent dérangeants, voire criminels. Deux des travailleurs ont déclaré avoir ramassé ce qu'ils croyaient être une agression sexuelle. Lorsque quelque chose comme cela se produit, ils peuvent partager l'expérience dans la salle de discussion interne afin de soulager le stress. Amazon dit avoir mis en place des procédures que les travailleurs doivent suivre lorsqu'ils entendent quelque chose de pénible, mais deux employés basés en Roumanie ont déclaré qu'après avoir demandé des conseils pour de tels cas, on leur avait dit que ce n'était pas le travail d'Amazon d'intervenir.

Les utilisateurs d'Alexa ont la possibilité de désactiver l'utilisation de leurs enregistrements vocaux pour améliorer le service, mais certains peuvent ne pas savoir que ces options existent. Amazon n'indique pas non plus clairement que de vraies personnes écoutent les enregistrements.

Selon Bloomberg , les enregistrements envoyés aux employés qui travaillent sur Alexa n'incluent pas le nom complet ou l'adresse d'un utilisateur, mais un numéro de compte, un prénom et le numéro de série de l'appareil sont associés à l'enregistrement.

Dans une déclaration à Bloomberg , Amazon a déclaré qu'un nombre « extrêmement petit » d'enregistrements vocaux Alexa sont annotés et que des mesures sont en place pour protéger l'identité de l'utilisateur.

Nous prenons au sérieux la sécurité et la confidentialité des informations personnelles de nos clients. Nous n'annotons qu'un très petit échantillon d'enregistrements vocaux Alexa afin d'améliorer l'expérience client. Par exemple, ces informations nous aident à former nos systèmes de reconnaissance vocale et de compréhension du langage naturel, afin qu'Alexa puisse mieux comprendre vos demandes et garantir que le service fonctionne bien pour tout le monde.

Nous avons des garanties techniques et opérationnelles strictes, et avons une politique de tolérance zéro pour les abus de notre système. Les employés n'ont pas un accès direct aux informations permettant d'identifier la personne ou le compte dans le cadre de ce workflow. Toutes les informations sont traitées avec une grande confidentialité et nous utilisons une authentification multifacteur pour restreindre l'accès, le cryptage des services et des audits de notre environnement de contrôle pour le protéger.

Il est de pratique courante d'utiliser certains enregistrements pour l'amélioration du produit. Apple a des employés qui écoutent Syrie questions pour s'assurer que l'interprétation d'une demande correspond à ce que la personne a dit. Les enregistrements sont toutefois dépourvus d'informations identifiables et stockés pendant six mois avec un identifiant aléatoire.

Google a également des employés qui peuvent accéder à des extraits audio de Google Assistant dans le but d'améliorer le produit, mais Google, comme Apple, supprime les informations personnellement identifiables et déforme également le son.

Amazon ne semble pas supprimer toutes les informations personnellement identifiables, et bien que l'Echo soit destiné à collecter l'audio uniquement lorsqu'un mot de réveil est prononcé, les employés qui ont parlé à Bloomberg ont déclaré qu'ils entendent souvent des fichiers audio qui semblent avoir commencé à enregistrer sans aucun mot de réveil.

Les utilisateurs d'Alexa concernés par les données collectées et utilisées par Amazon doivent s'assurer d'activer toutes les fonctionnalités de confidentialité et décocher l'option permettant à Amazon de sauvegarder les enregistrements Echo. Des détails supplémentaires sur la façon dont Amazon utilise les enregistrements vocaux qu'il collecte peuvent être trouvés dans l'original Bloomberg article.

Mettre à jour: Amazon a fourni la déclaration suivante à Éternel comme précision : 'Par défaut, les appareils Echo sont conçus pour détecter uniquement le mot d'activation que vous avez choisi (Alexa, Amazon, Computer ou Echo). L'appareil détecte le mot de réveil en identifiant des modèles acoustiques qui correspondent au mot de réveil. Aucun son n'est stocké ou envoyé vers le cloud à moins que l'appareil ne détecte le mot de réveil (ou qu'Alexa soit activé en appuyant sur un bouton).'