A l'occasion du sommet mondial sur l'intelligence artificielle à Paris, Complorama s'intéresse à cette technologie, utilisée pour alimenter et propager les théories du complot. Elle peut aussi, dans certains cas, être un levier pour lutter contre les dérives complotistes.
L'intelligence artificielle (IA) est devenue un outil puissant, capable de générer des contenus à la fois crédibles et trompeurs. Les plateformes comme TikTok sont inondées de vidéos créées par IA, souvent basées sur des théories complotistes. Ces vidéos, dont la voix, le texte et l'image sont générés par IA, sont produites à une échelle quasi industrielle. Cette facilité de production a créé un véritable business, où des comptes monétisent ces contenus en attirant un large public. "C'est vrai qu'aujourd'hui, il y a des outils qui permettent en un clic de faire à la fois la génération de l'histoire que l'on veut écrire, explique Ari Kouts, consultant spécialisé en innovation technologique, invité de Complorama. Et il y a un vrai business parce qu'il n'y a pas besoin de faire des millions de vues pour chaque vidéo. Il y a besoin de faire des millions de vidéos avec quelques vues et ça fera à peu près le même revenu derrière si on arrive à avoir assez de vues. Donc c'est une façon de pousser aussi du contenu comme ça."
Parallèlement, le coût de production de la désinformation s'est effondré, tandis que la vérification des faits est de plus en plus coûteuse, créant un effet ciseau qui favorise la propagation des théories du complot. Rudy Reichstadt explique cet effet ciseau en parlant d'"un effondrement des coûts de production du faux". Les réseaux sociaux amplifient ce phénomène en réduisant la modération des contenus, permettant aux théories complotistes générées par IA de prospérer. Selon Tristan Mendès France, "les plateformes sociales sont en train de réduire considérablement la modération et donc c'est une opportunité folle pour ces contenus générés par complotistes". Des influenceurs utilisent également l'IA pour confirmer leurs propres biais complotistes.
Les contenus générés par l'IA ne sont pas toujours créés avec une intention malveillante. Ils peuvent être d'abord conçus à des fins humoristiques ou expérimentales. Cependant, lorsqu'ils sont sortis de leur contexte et republiés sans mentionner leur origine, ils peuvent être pris au premier degré et alimenter des récits complotistes. Rudy Reichstadt décrit ce phénomène comme des "contenus Frankenstein" qui "échappent à leur créateurs". Autre danger : la suspicion que cette production de faux fait naître sur les contenus légitimes. Des images et vidéos d'un réalisme poussé peuvent mener à une remise en question des contenus réels. Tristan Mendès France souligne : "L'effet collatéral c'est que lorsqu'on est exposé à des vidéos qui sont réelles, qui sont légitimes, et bien certains vont se dire 'est-ce que ce n'est pas généré par IA ?'".
Les robots conversationnels peuvent eux aussi diffuser de la désinformation. Certains, comme celui de la société chinoise Deepseek, fournissent des informations inexactes, s'autocensurent ou proposent une propagande idéologisée. D’après le site Newsguard, ce chatbot "ne réussit pas à fournir des informations exactes sur l'actualité et l'information dans 83 % des cas". D'autres, comme le chatbot Gab, propagent des contenus racistes, antisémites et complotistes.
Heureusement, l'IA peut également être un outil puissant pour lutter contre la désinformation. Des chatbots, comme le DebunkBot, ont montré leur capacité à réduire les croyances aux théories du complot en les déconstruisant par des arguments factuels. Une étude du MIT révèle que le niveau de croyance "a diminué selon l'étude de 20 % et un tiers d'entre eux ont même complètement abandonné leurs idées conspirationnistes". L'IA, grâce à son entraînement sur un volume de données important, peut répondre de manière objective et factuelle, sans s'énerver et sans agenda propre. "Quand on parle avec une IA, on a peut-être moins la sensation de parler avec quelqu'un qui aurait un agenda", estime Tristan Mendès France.
L'outil Vera, un robot conversationnel, s'abreuve en temps réel des contenus de plus de 300 médias considérés comme fiables, permettant de générer des réponses documentées et sourcées. Selon un intervenant, cet outil permet "de générer une réponse documentée, sourcée et la plus impartiale possible". De plus, les grands chatbots populaires semblent relativement bien modérés et ne poussent pas de théories complotistes. Des outils basés sur l'IA peuvent aussi être utilisés pour détecter et contrer la propagation de fausses informations en temps réel.
L'IA est donc un outil ambivalent. Son impact dépend de la manière dont elle est utilisée et par qui. La question clé est de savoir quelles intelligences artificielles gagneront la bataille de l'attention : celles qui sont modérées et objectives, ou celles qui sont idéologiquement biaisées et débridées ?
"L'intelligence artificielle et le complotisme", c'est le 82e épisode de Complorama avec Rudy Reichstadt, directeur de Conspiracy Watch, et Tristan Mendès France, maître de conférences et membre de l'observatoire du conspirationnisme, spécialiste des cultures numériques. Un podcast à retrouver sur le site de franceinfo, l'application Radio France et plusieurs autres plateformes comme Apple podcasts, Podcast Addict, Spotify, ou Deezer.
L'intelligence artificielle (IA) est devenue un outil puissant, capable de générer des contenus à la fois crédibles et trompeurs. Les plateformes comme TikTok sont inondées de vidéos créées par IA, souvent basées sur des théories complotistes. Ces vidéos, dont la voix, le texte et l'image sont générés par IA, sont produites à une échelle quasi industrielle. Cette facilité de production a créé un véritable business, où des comptes monétisent ces contenus en attirant un large public. "C'est vrai qu'aujourd'hui, il y a des outils qui permettent en un clic de faire à la fois la génération de l'histoire que l'on veut écrire, explique Ari Kouts, consultant spécialisé en innovation technologique, invité de Complorama. Et il y a un vrai business parce qu'il n'y a pas besoin de faire des millions de vues pour chaque vidéo. Il y a besoin de faire des millions de vidéos avec quelques vues et ça fera à peu près le même revenu derrière si on arrive à avoir assez de vues. Donc c'est une façon de pousser aussi du contenu comme ça."
Parallèlement, le coût de production de la désinformation s'est effondré, tandis que la vérification des faits est de plus en plus coûteuse, créant un effet ciseau qui favorise la propagation des théories du complot. Rudy Reichstadt explique cet effet ciseau en parlant d'"un effondrement des coûts de production du faux". Les réseaux sociaux amplifient ce phénomène en réduisant la modération des contenus, permettant aux théories complotistes générées par IA de prospérer. Selon Tristan Mendès France, "les plateformes sociales sont en train de réduire considérablement la modération et donc c'est une opportunité folle pour ces contenus générés par complotistes". Des influenceurs utilisent également l'IA pour confirmer leurs propres biais complotistes.
Les contenus générés par l'IA ne sont pas toujours créés avec une intention malveillante. Ils peuvent être d'abord conçus à des fins humoristiques ou expérimentales. Cependant, lorsqu'ils sont sortis de leur contexte et republiés sans mentionner leur origine, ils peuvent être pris au premier degré et alimenter des récits complotistes. Rudy Reichstadt décrit ce phénomène comme des "contenus Frankenstein" qui "échappent à leur créateurs". Autre danger : la suspicion que cette production de faux fait naître sur les contenus légitimes. Des images et vidéos d'un réalisme poussé peuvent mener à une remise en question des contenus réels. Tristan Mendès France souligne : "L'effet collatéral c'est que lorsqu'on est exposé à des vidéos qui sont réelles, qui sont légitimes, et bien certains vont se dire 'est-ce que ce n'est pas généré par IA ?'".
Les robots conversationnels peuvent eux aussi diffuser de la désinformation. Certains, comme celui de la société chinoise Deepseek, fournissent des informations inexactes, s'autocensurent ou proposent une propagande idéologisée. D’après le site Newsguard, ce chatbot "ne réussit pas à fournir des informations exactes sur l'actualité et l'information dans 83 % des cas". D'autres, comme le chatbot Gab, propagent des contenus racistes, antisémites et complotistes.
Heureusement, l'IA peut également être un outil puissant pour lutter contre la désinformation. Des chatbots, comme le DebunkBot, ont montré leur capacité à réduire les croyances aux théories du complot en les déconstruisant par des arguments factuels. Une étude du MIT révèle que le niveau de croyance "a diminué selon l'étude de 20 % et un tiers d'entre eux ont même complètement abandonné leurs idées conspirationnistes". L'IA, grâce à son entraînement sur un volume de données important, peut répondre de manière objective et factuelle, sans s'énerver et sans agenda propre. "Quand on parle avec une IA, on a peut-être moins la sensation de parler avec quelqu'un qui aurait un agenda", estime Tristan Mendès France.
L'outil Vera, un robot conversationnel, s'abreuve en temps réel des contenus de plus de 300 médias considérés comme fiables, permettant de générer des réponses documentées et sourcées. Selon un intervenant, cet outil permet "de générer une réponse documentée, sourcée et la plus impartiale possible". De plus, les grands chatbots populaires semblent relativement bien modérés et ne poussent pas de théories complotistes. Des outils basés sur l'IA peuvent aussi être utilisés pour détecter et contrer la propagation de fausses informations en temps réel.
L'IA est donc un outil ambivalent. Son impact dépend de la manière dont elle est utilisée et par qui. La question clé est de savoir quelles intelligences artificielles gagneront la bataille de l'attention : celles qui sont modérées et objectives, ou celles qui sont idéologiquement biaisées et débridées ?
"L'intelligence artificielle et le complotisme", c'est le 82e épisode de Complorama avec Rudy Reichstadt, directeur de Conspiracy Watch, et Tristan Mendès France, maître de conférences et membre de l'observatoire du conspirationnisme, spécialiste des cultures numériques. Un podcast à retrouver sur le site de franceinfo, l'application Radio France et plusieurs autres plateformes comme Apple podcasts, Podcast Addict, Spotify, ou Deezer.
Depuis dix-sept ans, Conspiracy Watch contribue à sensibiliser aux dangers du complotisme en assurant un travail d’information et de veille critique sans équivalent. Pour pérenniser nos activités, le soutien de nos lecteurs est indispensable.
