Rapport spécial : les employés de Tesla ont partagé des images sensibles enregistrées par les voitures des clients

LONDRES/SAN FRANCISCO, 6 avril (Reuters) - Tesla Inc assure à ses millions de propriétaires de voitures électriques que leur vie privée "est et sera toujours extrêmement importante pour nous". Les caméras qu'il intègre dans les véhicules pour aider à la conduite, note-t-il sur son site Web, sont "conçues dès le départ pour protéger votre vie privée".

Mais entre 2019 et 2022, des groupes d'employés de Tesla ont partagé en privé via un système de messagerie interne des vidéos et des images parfois très invasives enregistrées par les caméras des voitures des clients, selon des entretiens de Reuters avec neuf anciens employés.

Certains des enregistrements ont surpris les clients de Tesla dans des situations embarrassantes. Un ex-employé a décrit une vidéo d'un homme s'approchant d'un véhicule complètement nu.

Également partagé : accidents et incidents de rage au volant. Une vidéo d'accident en 2021 montrait une Tesla roulant à grande vitesse dans une zone résidentielle frappant un enfant à vélo, selon un autre ex-employé. L'enfant volait dans un sens, le vélo dans un autre. La vidéo s'est propagée dans un bureau de Tesla à San Mateo, en Californie, via des conversations privées en tête-à-tête, "comme une traînée de poudre", a déclaré l'ex-employé.

D'autres images étaient plus banales, telles que des images de chiens et des panneaux de signalisation amusants que les employés transformaient en mèmes en les embellissant de légendes ou de commentaires amusants, avant de les publier dans des discussions de groupe privées. Si certains affichages n'étaient partagés qu'entre deux salariés, d'autres pouvaient être vus par des dizaines d'entre eux, selon plusieurs ex-salariés.

Tesla déclare dans son "Avis de confidentialité client" en ligne que ses "enregistrements de caméra restent anonymes et ne sont pas liés à vous ou à votre véhicule". Mais sept anciens employés ont déclaré à Reuters que le programme informatique qu'ils utilisaient au travail pouvait montrer l'emplacement des enregistrements – ce qui pourrait potentiellement révéler où vivait un propriétaire de Tesla.

Un ancien employé a également déclaré que certains enregistrements semblaient avoir été effectués lorsque des voitures étaient garées et éteintes. Il y a plusieurs années, Tesla recevait des enregistrements vidéo de ses véhicules même lorsqu'ils étaient éteints, si les propriétaires donnaient leur consentement. Il a depuis cessé de le faire.

"Nous pouvions voir à l'intérieur des garages des gens et de leurs propriétés privées", a déclaré un autre ancien employé. "Disons qu'un client de Tesla avait quelque chose dans son garage qui était distinctif, vous savez, les gens publieraient ce genre de choses."

Tesla n'a pas répondu aux questions détaillées envoyées à l'entreprise pour ce rapport.

Il y a environ trois ans, certains employés sont tombés sur et ont partagé une vidéo d'un véhicule submersible unique garé dans un garage, selon deux personnes qui l'ont visionné. Surnommé "Wet Nellie", le sous-marin blanc Lotus Esprit avait été présenté dans le film de James Bond de 1977, "L'espion qui m'aimait".

Le propriétaire du véhicule : le directeur général de Tesla, Elon Musk, qui l'avait acheté pour environ 968 000 $ lors d'une vente aux enchères en 2013. Il n'est pas clair si Musk était au courant de la vidéo ou si elle avait été partagée.

Musk n'a pas répondu à une demande de commentaire.

Pour rapporter cette histoire, Reuters a contacté plus de 300 anciens employés de Tesla qui avaient travaillé dans l'entreprise au cours des neuf dernières années et avaient participé au développement de son système de conduite autonome. Plus d'une douzaine ont accepté de répondre aux questions, toutes s'exprimant sous couvert d'anonymat.

Reuters n'a pu obtenir aucune des vidéos ou images partagées, que les anciens employés ont déclaré ne pas avoir conservées. L'agence de presse n'a pas non plus été en mesure de déterminer si la pratique de partage d'enregistrements, qui s'est produite dans certaines parties de Tesla aussi récemment que l'année dernière, se poursuit aujourd'hui ou à quel point elle était répandue. Certains anciens employés contactés ont déclaré que le seul partage qu'ils avaient observé était à des fins professionnelles légitimes, comme demander l'aide de collègues ou de superviseurs.

Le partage de vidéos sensibles illustre l'une des caractéristiques les moins remarquées des systèmes d'intelligence artificielle : ils nécessitent souvent des armées d'êtres humains pour aider à former des machines à apprendre des tâches automatisées telles que la conduite.

Depuis 2016 environ, Tesla a employé des centaines de personnes en Afrique et plus tard aux États-Unis pour étiqueter des images afin d'aider ses voitures à apprendre à reconnaître les piétons, les panneaux de signalisation, les véhicules de construction, les portes de garage et d'autres objets rencontrés sur la route ou chez les clients. Pour ce faire, les étiqueteurs de données ont eu accès à des milliers de vidéos ou d'images enregistrées par des caméras de voiture qu'ils pouvaient voir et identifier des objets.

Tesla automatise de plus en plus le processus et a fermé l'année dernière un hub d'étiquetage de données à San Mateo, en Californie. Mais il continue d'employer des centaines d'étiqueteurs de données à Buffalo, New York. En février, Tesla a déclaré que le personnel y avait augmenté de 54% au cours des six mois précédents pour atteindre 675.

Deux ex-employés ont déclaré ne pas être dérangés par le partage d'images, affirmant que les clients avaient donné leur consentement ou que les gens avaient depuis longtemps renoncé à toute attente raisonnable de garder les données personnelles privées. Trois autres, cependant, ont dit qu'ils en étaient troublés.

"C'était une violation de la vie privée, pour être honnête. Et j'ai toujours plaisanté en disant que je n'achèterais jamais de Tesla après avoir vu comment ils traitaient certaines de ces personnes", a déclaré un ancien employé.

Un autre a déclaré: "Cela me dérange parce que les gens qui achètent la voiture, je ne pense pas qu'ils sachent que leur vie privée n'est, comme, pas respectée … Nous pourrions les voir faire la lessive et des choses vraiment intimes. Nous pourrions voir leurs enfants. "

Un ancien employé ne voyait rien de mal à partager des images, mais a décrit une fonction qui permettait aux étiqueteurs de données de voir l'emplacement des enregistrements sur Google Maps comme une "invasion massive de la vie privée".

David Choffnes, directeur exécutif du Cybersecurity and Privacy Institute de la Northeastern University de Boston, a qualifié le partage de vidéos et d'images sensibles par les employés de Tesla de "moralement répréhensible".

"Tout être humain normal serait consterné par cela", a-t-il déclaré. Il a noté que la diffusion de contenu sensible et personnel pourrait être interprétée comme une violation de la propre politique de confidentialité de Tesla, ce qui pourrait entraîner une intervention de la Federal Trade Commission des États-Unis, qui applique les lois fédérales relatives à la vie privée des consommateurs.

Un porte-parole de la FTC a déclaré qu'elle ne commentait pas les entreprises individuelles ou leur conduite.

Pour développer la technologie des voitures autonomes, Tesla collecte une vaste mine de données sur sa flotte mondiale de plusieurs millions de véhicules. La société exige que les propriétaires de voitures accordent leur autorisation sur les écrans tactiles des voitures avant que Tesla ne collecte les données de leurs véhicules. "Vos données vous appartiennent", déclare le site Web de Tesla.

Dans son Avis de confidentialité client, Tesla explique que si un client accepte de partager des données, "votre véhicule peut collecter les données et les mettre à la disposition de Tesla pour analyse. Cette analyse aide Tesla à améliorer ses produits, ses fonctionnalités et à diagnostiquer les problèmes plus rapidement". Il indique également que les données peuvent inclure "de courts clips vidéo ou des images", mais ne sont pas liées au compte d'un client ou au numéro d'identification du véhicule, "et ne vous identifient pas personnellement".

Carlo Piltz, un avocat spécialisé dans la confidentialité des données en Allemagne, a déclaré à Reuters qu'il serait difficile de trouver une justification légale en vertu de la loi européenne sur la protection des données et la vie privée pour que les enregistrements de véhicules soient diffusés en interne lorsque cela n'a "rien à voir avec la fourniture d'une voiture sûre ou sécurisée ou la fonctionnalité" du système de conduite autonome de Tesla.

Ces dernières années, le système de caméra de voiture de Tesla a suscité la controverse. En Chine, certains complexes gouvernementaux et quartiers résidentiels ont interdit Teslas en raison de préoccupations concernant ses caméras. En réponse, Musk a déclaré lors d'une conférence virtuelle lors d'un forum chinois en 2021 : "Si Tesla utilise des voitures pour espionner en Chine ou ailleurs, nous serons fermés".

Ailleurs, les régulateurs ont examiné le système Tesla sur les violations potentielles de la vie privée. Mais les affaires de confidentialité ont eu tendance à se concentrer non pas sur les droits des propriétaires de Tesla, mais sur les passants ignorant qu'ils pourraient être enregistrés par des véhicules Tesla en stationnement.

En février, l'autorité néerlandaise de protection des données, ou DPA, a déclaré qu'elle avait conclu une enquête sur Tesla concernant d'éventuelles violations de la vie privée concernant le "mode sentinelle", une fonctionnalité conçue pour enregistrer toute activité suspecte lorsqu'une voiture est garée et alerter le propriétaire.

"Les personnes qui passaient à côté de ces véhicules ont été filmées sans le savoir. Et les propriétaires des Teslas pouvaient revenir en arrière et regarder ces images", a déclaré Katja Mur, membre du conseil d'administration de la DPA, dans un communiqué. "Si une personne garait l'un de ces véhicules devant la fenêtre de quelqu'un, elle pourrait espionner à l'intérieur et voir tout ce que faisait l'autre personne. C'est une grave violation de la vie privée."

Le chien de garde a déterminé que ce n'était pas Tesla, mais les propriétaires des véhicules, qui étaient légalement responsables des enregistrements de leurs voitures. Il a déclaré qu'il avait décidé de ne pas infliger d'amende à l'entreprise après que Tesla ait déclaré avoir apporté plusieurs modifications au mode sentinelle, notamment en faisant clignoter les phares d'un véhicule pour informer les passants qu'ils pourraient être enregistrés.

Un porte-parole de la DPA a refusé de commenter les conclusions de Reuters, mais a déclaré dans un e-mail : "Les données personnelles doivent être utilisées dans un but précis et les données personnelles sensibles doivent être protégées".

REMPLACER LES CONDUCTEURS HUMAINS

Tesla appelle son système de conduite automatisé Autopilot. Introduit en 2015, le système comprenait des fonctionnalités avancées telles que la possibilité pour les conducteurs de changer de voie en appuyant sur un clignotant et le stationnement parallèle sur commande. Pour faire fonctionner le système, Tesla a initialement installé des capteurs sonar, un radar et une seule caméra frontale en haut du pare-brise. Une version ultérieure, introduite en 2016, comprenait huit caméras tout autour de la voiture pour collecter plus de données et offrir plus de fonctionnalités.

La vision future de Musk est à terme de proposer un mode "Full Self-Driving" qui remplacerait un conducteur humain. Tesla a commencé à déployer une version expérimentale de ce mode en octobre 2020. Bien qu'il oblige les conducteurs à garder les mains sur le volant, il offre actuellement des fonctionnalités telles que la possibilité de ralentir automatiquement une voiture à l'approche des panneaux d'arrêt ou des feux de circulation.

Le système de pilote automatique de Tesla

En février, Tesla a rappelé plus de 362 000 véhicules américains pour mettre à jour leur logiciel de conduite entièrement autonome après que la National Highway Traffic Safety Administration a déclaré que cela pourrait permettre aux véhicules de dépasser les limites de vitesse et de provoquer potentiellement des accidents aux intersections.

Comme pour de nombreux projets d'intelligence artificielle, pour développer le pilote automatique, Tesla a embauché des étiqueteurs de données pour identifier les objets dans les images et les vidéos afin d'apprendre au système comment réagir lorsque le véhicule était sur la route ou garé.

Tesla a initialement sous-traité l'étiquetage des données à une organisation à but non lucratif basée à San Francisco, alors connue sous le nom de Samasource, ont déclaré à Reuters des personnes proches du dossier. L'organisation avait un bureau à Nairobi, au Kenya, et se spécialisait dans l'offre de formations et d'opportunités d'emploi aux femmes et aux jeunes défavorisés.

En 2016, Samasource y fournissait environ 400 travailleurs pour Tesla, contre environ 20 initialement, selon une personne proche du dossier.

En 2019, cependant, Tesla n'était plus satisfait du travail des étiqueteurs de données de Samasource. Lors d'un événement appelé Tesla AI Day en 2021, Andrej Karpathy, alors directeur principal de l'IA chez Tesla, a déclaré : "Malheureusement, nous avons découvert très rapidement que travailler avec un tiers pour obtenir des ensembles de données pour quelque chose d'aussi critique n'allait tout simplement pas le couper... Honnêtement, la qualité n'était pas incroyable."

Un ancien employé de Tesla a déclaré à propos des étiqueteuses de Samasource : "Ils mettaient en évidence les bouches d'incendie comme des piétons... Ils manquaient tout le temps des objets. Leur niveau de compétence pour dessiner des boîtes était très faible."

Samasource, désormais appelée Sama, a refusé de commenter son travail pour Tesla.

Tesla a décidé d'intégrer l'étiquetage des données en interne. "Au fil du temps, nous sommes devenus une organisation d'étiquetage de données de plus de 1 000 personnes qui regorge d'étiqueteurs professionnels qui travaillent en étroite collaboration avec les ingénieurs", a déclaré Karpathy dans sa présentation d'août 2021.

Karpathy n'a pas répondu aux demandes de commentaires.

Les propres étiqueteurs de données de Tesla travaillaient initialement dans la région de la baie de San Francisco, y compris le bureau de San Mateo. Des groupes d'étiqueteurs de données se sont vu confier une variété de tâches différentes, y compris l'étiquetage des lignes de voie de rue ou des véhicules d'urgence, ont déclaré d'anciens employés.

À un moment donné, Teslas sur le pilote automatique avait du mal à sortir des garages et devenait confus lorsqu'il rencontrait des ombres ou des objets tels que des tuyaux d'arrosage. Ainsi, certains étiqueteurs de données ont été invités à identifier des objets dans des vidéos enregistrées à l'intérieur de garages. Le problème a finalement été résolu.

Lors d'entretiens, deux anciens employés ont déclaré que, dans le cadre de leurs tâches professionnelles normales, on leur demandait parfois de voir des images de clients à l'intérieur et autour de leur domicile, y compris à l'intérieur des garages.

"Je me suis parfois demandé si ces gens savaient que nous assistions à cela", a déclaré l'un d'eux.

"J'ai vu des trucs scandaleux parfois, vous savez, comme j'ai vu des scènes d'intimité mais pas de nudité", a déclaré un autre. "Et il y avait certainement beaucoup de choses qui aiment, je ne voudrais pas que quiconque voie ma vie."

À titre d'exemple, cette personne s'est souvenue avoir vu des "objets embarrassants", tels que "certains morceaux de linge, certains articles de bien-être sexuel… et juste des scènes de vie privées dont nous étions vraiment au courant parce que la voiture était en charge".

MEMES DANS LE BUREAU DE SAN MATEO

Tesla a doté son bureau de San Mateo de principalement de jeunes travailleurs, dans la vingtaine et au début de la trentaine, qui ont apporté avec eux une culture qui valorisait les mèmes divertissants et le contenu viral en ligne. D'anciens membres du personnel ont décrit une atmosphère de roue libre dans les forums de discussion avec des travailleurs échangeant des blagues sur les images qu'ils ont vues lors de l'étiquetage.

Selon plusieurs anciens employés, certains étiqueteurs ont partagé des captures d'écran, parfois balisées à l'aide d'Adobe Photoshop, dans des discussions de groupe privées sur Mattermost, le système de messagerie interne de Tesla. Là, ils attireraient des réponses d'autres travailleurs et gestionnaires. Les participants ajoutaient également leurs propres images, blagues ou émoticônes annotées pour poursuivre la conversation. Certains des emojis ont été créés sur mesure pour faire référence à des blagues de bureau, ont déclaré plusieurs anciens employés.

Un ancien étiqueteur a décrit le partage d'images comme un moyen de "rompre la monotonie". Un autre a décrit comment le partage a gagné l'admiration de ses pairs.

"Si vous voyiez quelque chose de cool qui susciterait une réaction, vous le publiez, d'accord, et plus tard, pendant la pause, les gens venaient vers vous et disaient : " Oh, j'ai vu ce que vous avez publié. C'était drôle ", a déclaré cet ancien étiqueteur. "Les personnes qui ont été promues à des postes de direction ont partagé beaucoup de ces articles amusants et ont acquis la notoriété d'être drôles."

Certains contenus partagés ressemblaient à des mèmes sur Internet. Il y avait des chiens, des voitures intéressantes et des clips de personnes enregistrées par des caméras Tesla trébuchant et tombant. Il y avait aussi du contenu dérangeant, comme quelqu'un entraîné dans une voiture apparemment contre sa volonté, a déclaré un ancien employé.

Des clips vidéo d'accidents impliquant Teslas ont également été parfois partagés dans des discussions privées sur Mattermost, ont déclaré plusieurs anciens employés. Ceux-ci comprenaient des exemples de personnes conduisant mal ou de collisions impliquant des personnes heurtées alors qu'elles roulaient à vélo – comme celle avec l'enfant – ou une moto. Certains étiqueteurs de données rembobinaient ces clips et les lisaient au ralenti.

Parfois, les responsables de Tesla réprimaient le partage inapproprié d'images sur les chaînes publiques de Mattermost, car ils affirmaient que cette pratique violait la politique de l'entreprise. Pourtant, des captures d'écran et des mèmes basés sur eux ont continué à circuler via des discussions privées sur la plate-forme, ont déclaré plusieurs anciens employés. Les travailleurs les ont partagés individuellement ou en petits groupes aussi récemment qu'au milieu de l'année dernière.

L'un des avantages de travailler pour Tesla en tant qu'étiqueteur de données à San Mateo était la chance de gagner un prix - l'utilisation d'une voiture de société pendant un jour ou deux, selon deux anciens employés.

Mais certains des heureux gagnants sont devenus paranoïaques en conduisant les voitures électriques.

"Savoir combien de données ces véhicules sont capables de collecter rend les gens nerveux", a déclaré un ancien employé.

Nos normes : Les principes de confiance de Thomson Reuters.

Thomson Reuters

Journaliste d'investigation mondiale lauréate du prix Pulitzer basée à Londres avec des travaux qui incluent l'échec de Facebook à lutter contre les discours de haine au Myanmar, la fraude aux admissions dans les universités américaines, la façon dont le guide suprême iranien contrôle secrètement un empire commercial de plusieurs milliards de dollars et le non-respect des sanctions par les entreprises chinoises en Iran. A travaillé au Wall Street Journal et au Philadelphia Inquirer.