L’une des menaces croissantes liées à l’IA est l’inondation d’Internet par toutes sortes de fausses informations générées par l’IA. Cela en soi peut être un véritable fléau de nos jours et des personnes moins informées et moins conscientes peuvent tomber dans le piège de ce type de contenu.
Malheureusement, il en va de même dans le cas des faux profils sur les réseaux sociaux. Il y a quelque temps, Meta (Facebook, Instagram) a décidé d’ajouter des profils alimentés par l’intelligence artificielle sur leurs plateformes. Bien entendu, tout cela nous a été vendu comme un projet ou une expérimentation.
Cependant, il s’avère que l’expérience n’a pas fonctionné et qu’elle ne servira probablement à rien à long terme. L’entreprise a subi un fiasco spectaculaire dans cette affaire, et le profil de « fière maman queer noire » sur Instagram n’a pas répondu aux attentes. De quoi s’agit-il exactement ?
Faux profils Facebook alimentés par l’IA
Les dernières informations confirment que Meta a commencé à supprimer de ses plateformes, à savoir Facebook et Instagram, les profils de personnages générés par l’IA. Nous parlons spécifiquement de personnes créées en 2023 qui n’existaient pas réellement, et leurs réponses et contenus partagés étaient le résultat du travail de l’intelligence artificielle..
Il est intéressant de noter que la plupart de ces profils ont disparu à l’été 2024, mais certains d’entre eux ont survécu et ont attiré l’attention après l’annonce de la semaine dernière selon laquelle la société prévoyait d’introduire encore plus de profils basés sur l’IA.
Un exemple serait Liv, qui est une « fière mère noire queer de deux enfants et qui dit la vérité », ou Carter, qui se décrit comme un coach pour les relations avec le sexe opposé. Tous ces profils généraient eux-mêmes du contenu et répondaient aux questions des gens via Messenger.
À mesure que l’intérêt pour de tels profils augmente, des cas assez étranges sont apparus. Par exemple, Liv susmentionnée, lors d’une conversation avec un journaliste du Washington Post, a souligné que seuls des « hommes blancs » travaillaient dans l’équipe responsable de sa création, ce qui était flagrant pour elle et portait atteinte à son identité.
Quelques heures seulement après l’intérêt viral, les utilisateurs ont également rencontré un bug qui empêchait les gens de bloquer ces profils créés par l’IA. Ensuite, les profils ont commencé à disparaître et la porte-parole de Meta a décidé d’expliquer de manière alambiquée que de tels « faux profils » faisaient partie de l’expérience.
Il y a une confusion : un récent article du Financial Times a évoqué notre vision des personnages IA existant sur nos plateformes au fil du temps, mais n’a annoncé aucun nouveau produit. Les comptes en question proviennent d’un test que nous avons effectué sur Connect en 2023. Ils étaient gérés par des humains et faisaient partie d’une première expérience que nous avons menée avec des personnages IA. Nous avons identifié un bug qui affectait la capacité des humains à bloquer ces IA, et nous supprimons ces comptes pour résoudre le problème.
Liz Sweeney, porte-parole de Meta
Partager les réseaux sociaux avec des robots ?
La situation décrite peut être très, très inquiétante, car elle annonce dans une certaine mesure un avenir dystopique dans lequel nous partagerons les réseaux sociaux avec des robots. Pire encore, le développement de l’IA pourrait conduire à une situation dans laquelle il pourrait être presque impossible de distinguer un utilisateur réel d’un faux.
Mais pourquoi des entreprises comme Meta auraient-elles recours à de telles démarches ? D’une part, il peut s’agir d’une tentative d’augmenter le trafic sur la plateforme, et d’autre part, de la présenter comme un lieu attractif pour les nouveaux utilisateurs. Après tout, les gens se rassemblent là où il y a du mouvement.
Il convient également de rappeler que ce qui pose problème dans cette situation, c’est ce que ces faux profils écrivent et la manière dont ils commentent. Le cas cité de Liz, qui se plaignait de ses créateurs, n’est que la pointe de l’iceberg, qui montre que de tels chatbots dans la peau de vraies personnes doivent être tenus « en laisse très courte ».
