Le parcours d’un ingénieur engagé pour la protection des données
Vishnu Mohandas, un ingénieur logiciel basé à Bengaluru, en Inde, a décidé de quitter Google en 2020, après avoir découvert l’implication temporaire de l’entreprise dans des projets militaires. Il travaillait alors sur Google Assistant et utilisait Google Photos pour sauvegarder ses images. Cependant, inquiet de voir ses photos potentiellement utilisées pour entraîner des systèmes d’IA, il a arrêté d’utiliser ce service. Pour Mohandas, ce choix était une question de responsabilité face à des technologies qu’il ne pouvait pas contrôler.
Cette réflexion l’a conduit à créer un service alternatif, Ente, une plateforme open source et chiffrée de bout en bout pour le stockage et le partage de photos. Son objectif : offrir une solution privée, sécurisée et fiable. Aujourd’hui, Ente est rentable et compte plus de 100 000 utilisateurs, majoritairement sensibles aux enjeux de la confidentialité.
Une démonstration percutante : Theyseeyourphotos.com
Pour sensibiliser un public plus large aux risques d’exploitation des photos par l’IA, l’équipe d’Ente a lancé Theyseeyourphotos.com, un site web permettant de tester ce que les IA de Google peuvent déduire d’une simple photo. En téléchargeant une image, les utilisateurs obtiennent une description détaillée générée par un programme de vision par ordinateur hébergé sur Google Cloud.
Cette initiative vise à montrer comment des milliers de photos sauvegardées sur des plateformes comme Google Photos pourraient être analysées pour créer des profils précis des utilisateurs. Bien que Google affirme que ses outils d’analyse d’images sont conçus pour aider les utilisateurs à gérer leurs bibliothèques, ils ne sont pas entièrement chiffrés de bout en bout, ce qui soulève des préoccupations en matière de confidentialité.
Les dangers de l’analyse automatisée : un exemple troublant
Mohandas a testé l’outil avec une photo de sa famille devant un temple en Indonésie. L’analyse de Google a révélé des détails impressionnants, comme le modèle exact de la montre portée par sa femme, mais a également produit des résultats inattendus, associant ce modèle de montre à des extrémistes. Ces dérives ont conduit l’équipe d’Ente à ajuster les paramètres pour obtenir des descriptions plus neutres.
L’analyse reste néanmoins révélatrice : elle détecte l’expression des visages, l’origine ethnique supposée, la classe sociale présumée, et même des détails comme l’heure affichée sur une montre en fonction des métadonnées de l’image. Ce niveau de précision pose la question de l’utilisation future de ces données.
Les limites de Google Photos et les défis du transfert
Mohandas critique également la difficulté de migrer des bibliothèques de photos depuis Google Photos. Les fichiers sont souvent fragmentés et compressés, rendant le processus peu fluide. De plus, l’application Ente a été plusieurs fois signalée sur le Google Play Store pour des raisons discutables, selon Mohandas, ce qui illustre les défis rencontrés par les petites entreprises face à des géants comme Google.
Ente : une alternative en pleine évolution
Ente offre des fonctionnalités comme le chiffrement de bout en bout, la synchronisation automatique, et le partage sécurisé. Cependant, en tant que service en développement, certaines options, comme la recherche avancée et le partage, ne sont pas encore aussi sophistiquées que celles des grandes plateformes. De plus, si un utilisateur perd son mot de passe, il perd aussi l’accès à ses données, car ce mot de passe agit comme une clé de chiffrement.
Malgré ces limites, Ente propose une solution qui privilégie la confidentialité. L’entreprise conserve deux sauvegardes privées pour chaque utilisateur, offrant une certaine tranquillité d’esprit.
Une réflexion sur l’avenir de nos données visuelles
Pour Mohandas, la préservation des archives visuelles humaines est cruciale. Il craint que des informations personnelles sur sa fille, contenues dans ses photos actuelles, ne soient exploitées des décennies plus tard par des industries futures pour des fins imprévisibles. Cette vision soulève des questions fondamentales sur la manière dont nous protégeons nos données personnelles face à des avancées technologiques rapides.
