Google a récemment inscrit la création de deepfakes sur sa liste de projets interdits au sein de son service Colab, une plateforme spécialisée proposant aux chercheurs en intelligence artificielle, aux scientifiques des données et aux étudiants la possibilité d’écrire et d’exécuter du code Python directement dans leur navigateur.
### Une décision discrète mais significative
Ce changement, annoncé sans grande publicité, reflète les préoccupations croissantes liées à l’utilisation des deepfakes. Cette technologie, reposant sur des réseaux neuronaux génératifs comme les autoencodeurs ou les réseaux antagonistes génératifs (GAN), permet de manipuler ou de générer du contenu visuel et sonore. Bien que le potentiel créatif de ces outils puisse être exploré de manière constructive, leur utilisation à des fins malveillantes est alarmante.
### Les dangers des deepfakes
Les deepfakes ont été fréquemment utilisés pour produire du contenu pornographique sans consentement, commettre des fraudes et créer des médias trompeurs, mettant en péril la démocratie en influençant les opinions publiques. C’est dans ce contexte que Google a vraisemblablement pris la décision de bannir ces projets légitimement préoccupants.
### Une controverse inévitable
L’interdiction de ces projets est toutefois sujette à débat. Limiter l’accès à des outils de génération de deepfakes ne stoppe pas leur développement global et pourrait au contraire ralentir les efforts visant à créer des technologies pour les contrer au moment où elles sont le plus nécessaires. Par exemple, un deepfake truqué diffusé en mars dernier a déformé les paroles du président ukrainien Volodymyr Zelenskyy, incitant à la reddition des troupes face à l’invasion russe. Bien que ce faux contenu n’ait pas été très convaincant, il aurait pu avoir des conséquences désastreuses s’il avait été cru.
### Exemples de l’impact des deepfakes
Des campagnes d’influence, comme celle liée à la Russie et ayant utilisé des visages générés par IA pour créer de faux éditeurs de contenu, ont montré que certaines manipulations peuvent tromper un public non averti. Cependant, il est essentiel de nuancer cette technologie : les deepfakes ne sont pas toujours associés à des intentions malveillantes. Ils peuvent être employés à des fins artistiques, humoristiques ou même pour aider à la résolution d’affaires criminelles.
### Une date d’ajout à souligner
Analyse des données historiques présentées par archive.org indique que Google a silencieusement ajouté les deepfakes à son répertoire de projets interdits sur Colab entre le 14 et le 24 juillet 2022, marquant ainsi un tournant dans la régulation des outils d’intelligence artificielle sur sa plateforme.
### Conclusion
La décision de Google de bannir la création de deepfakes reste une initiative à double tranchant. Alors qu’elle vise à protéger les individus et à prévenir l’abus de la technologie, elle soulève également des questions sur la liberté d’expérimentation et la capacité des chercheurs à se défendre contre des pratiques nuisibles. Dans un monde en quête d’éthique numérique, l’équilibre entre innovation et protection des droits reste un sujet d’importante considération.
