Une rumeur fabriquée de toutes pièces peut aujourd’hui changer de statut en quelques secondes : il suffit qu’un internaute la pose à un chatbot pour qu’elle prenne, dans certains cas, l’apparence d’un fait. C’est exactement ce que montrent plusieurs tests récents : des récits prorusse, déjà démentis, se retrouvent reformulés et validés par des outils d’intelligence artificielle pourtant utilisés au quotidien pour s’informer.
Le risque n’est pas théorique. Entre la montée des usages (y compris en France) et l’arrivée des réponses “synthèse” dans les moteurs de recherche, la désinformation devient un enjeu d’infrastructure informationnelle, au cœur d’un cyberconflit où la manipulation passe désormais par les algorithmes.
Intelligence artificielle et désinformation prorusse : pourquoi certains chatbots valident des fake news
Un exemple parlant circule dans les milieux du fact-checking : l’affirmation selon laquelle le Premier ministre arménien Nikol Pachinian aurait voulu brader l’or de la mine d’Amulsar à des entreprises turques. Des sites relais prorusse ont poussé ce récit, mais il a été démonté : l’accusation est fausse.
Le problème commence quand vous interrogez certains chatbots dans plusieurs langues. Au lieu d’exprimer un doute ou de renvoyer vers des sources solides, ils peuvent répondre “oui” et raconter l’histoire avec assurance, comme si elle était documentée. Insight à retenir : plus la réponse paraît fluide, plus elle peut masquer une erreur ou une manipulation.
Ce que montrent les tests de NewsGuard sur la propagande du réseau Pravda
L’observatoire NewsGuard, qui évalue régulièrement les réponses des agents conversationnels, a mis le projecteur sur un réseau tentaculaire de sites associés à Pravda, bien connu pour pousser des narratifs pro-Kremlin. Dans une série de tests menée en mars 2025, NewsGuard a observé qu’environ un tiers des réponses (33 %) de grands chatbots commerciaux reprenaient ces récits trompeurs comme des faits.
Rebelote lors d’une nouvelle salve en janvier 2026 : NewsGuard a testé cinq histoires fausses attribuées à ce même réseau. Résultat, dans environ un cas sur deux, les chatbots les validaient au lieu de les contester, certains allant jusqu’à citer des pages du réseau comme “sources”. Le point clé : quand une source toxique devient “référencée” par une IA, elle gagne une autorité artificielle.
Portal Kombat : quand la propagande devient un problème d’écosystème
Ce qui rend la situation préoccupante, c’est que cette galaxie de sites n’est pas une découverte récente. Dès février 2024, Viginum (le service français dédié à la détection des ingérences numériques) avait documenté une opération qu’il a nommée “Portal Kombat”, attribuée à l’écosystème Pravda.
Autrement dit, on ne parle pas d’un angle mort inconnu, mais d’une menace décrite, archivée, et analysée. Quand des chatbots continuent malgré tout à relayer ces récits, cela signale une faiblesse structurelle : la technologie réagit mal à la production industrielle de contenus orientés.
Désinformation et algorithmes : la logique probabiliste qui favorise les contenus les plus répandus
Un agent conversationnel ne “cherche” pas la vérité comme un enquêteur. Il produit une réponse plausible à partir de ce qui est fréquent, corrélé, et disponible, surtout lorsque la question ressemble à une demande d’information factuelle.
Dans ce contexte, une stratégie de propagande simple devient redoutable : publier énormément, dans beaucoup de langues, sur beaucoup de domaines, pour que l’algorithme rencontre ce récit partout. Insight final : la quantité peut devenir une arme contre la qualité.
Pourquoi le réseau Pravda pèse si lourd dans les réponses
Selon NewsGuard, l’ampleur du réseau aide à comprendre l’effet de contamination. Il serait composé d’environ 370 sites, avec une production massive estimée à près de 6 millions d’articles publiés sur l’année 2025.
Dans un système où la “présence” et la répétition comptent, une telle volumétrie augmente la probabilité que la désinformation remonte dans les résultats, surtout lorsque les modèles ou les systèmes de recherche temps réel ne filtrent pas assez. Question à se poser : si un mensonge est recopié un million de fois, l’IA le traitera-t-elle comme un signal de popularité ou comme un signal de fraude ?
Chatbots et guerre de l’information : des réponses différentes selon la langue
Les tests menés par des journalistes du réseau nordique de fact-checking Nordis vont dans le même sens : les systèmes semblent plus robustes face aux récits très connus (et très debunkés), mais laissent passer plus facilement les intox récentes ou moins médiatisées.
Ce biais linguistique change tout. Un même outil peut être “bon” en anglais et fragile en langues moins présentes dans l’écosystème de vérification. Insight final : la fiabilité d’un chatbot n’est pas uniforme, elle dépend du terrain informationnel où vous l’utilisez.
Étude de cas : la même question, trois langues, trois réalités
Une enquête reproduite par la rédaction des Observateurs de France 24 illustre très bien le phénomène via Copilot. La question portait sur une fake news liée à la guerre en Ukraine : un élève danois aurait été tué lors d’une attaque contre une école d’aviation à Krivoy Rog.
En français et en anglais, l’outil répond correctement qu’il s’agit d’une intox. En finnois, en danois ou encore en slovène, la réponse peut au contraire valider le récit, à tort. Le message est clair : votre langue peut devenir un facteur de risque informationnel.
Manipulation ciblée des chatbots : hypothèse d’une propagande pensée pour les robots
Les grands modèles linguistiques sont-ils volontairement visés ? Des indices le suggèrent. Des journalistes nordiques ont noté que certains textes de propagande, en finnois notamment, étaient d’une qualité si médiocre qu’ils semblaient peu destinés à convaincre un lecteur humain.
Pourquoi publier alors ? Parce que l’objectif pourrait être d’inonder le web pour influencer des systèmes automatiques : moteurs, résumés, assistants, et chatbots. Dans un cyberconflit moderne, on ne cherche pas seulement à persuader des citoyens, on cherche aussi à biaiser des algorithmes.
Storm 1516 et l’industrialisation des récits
NewsGuard évoque aussi des signaux faibles compatibles avec une stratégie d’optimisation pour IA : faible engagement humain sur certains sites, et discours publics d’acteurs pro-Kremlin sur l’intérêt de “nourrir” les systèmes automatiques. Un nom revient dans plusieurs enquêtes : John Mark Dougan, un Américain installé en Russie, associé à une campagne d’influence connue sous l’étiquette “Storm 1516”.
Il faut toutefois bien distinguer deux mécanismes qui peuvent coexister : une ingérence intentionnelle d’un côté, et des lacunes de données fiables de l’autre, surtout sur des sujets de niche ou des langues moins couvertes. Insight final : même sans sabotage explicite, un vide informationnel peut produire le même résultat.
Au-delà des chatbots : Google AI Overview et Lens aussi touchés par la désinformation
Le problème ne se limite pas aux assistants conversationnels. Les réponses “résumé” intégrées à la recherche, comme Google AI Overview, changent la manière d’accéder à l’information : beaucoup d’utilisateurs lisent la synthèse et ne cliquent plus.
Or, des tests décrits par la journaliste Pipsa Havula (dans une enquête pour le média finlandais FaktaBaari) montrent une faiblesse inquiétante : sur dix images générées par IA et déjà démenties par des médias de fact-checking, l’usage de la recherche inversée via Google a conduit à des contextualisations erronées dans 9 cas sur 10. Le point clé : quand la machine “explique” une image fausse, elle la rend plus crédible.
GEO : la nouvelle bataille du référencement dans les outils d’intelligence artificielle
Après le SEO (optimisation pour les moteurs), une nouvelle course s’installe : le GEO, pour Generative Engine Optimization. L’idée est simple : produire et formater du contenu pour qu’il soit repris dans les synthèses des chatbots et des moteurs dopés à l’IA.
Cette pratique concerne autant des acteurs légitimes (marques, médias, institutions) que des réseaux malveillants. Dans un contexte où, selon un sondage récent cité par l’Arcom, environ 20 % des Français utilisent déjà l’IA pour s’informer, l’incitation à “se faire citer” par les systèmes devient énorme. Insight final : demain, l’accès aux faits dépendra aussi de la capacité des sources fiables à exister dans les canaux de l’IA.
Quels garde-fous concrets contre la désinformation prorusse dans les chatbots et autres outils IA
La fiabilité dépend beaucoup des politiques “trust and safety” des éditeurs, et ces politiques varient fortement selon les entreprises. Marc Faddoul (AI Forensics) rappelle que certains acteurs investissent davantage dans la réduction des risques, tandis que d’autres avancent plus lentement.
Si vous êtes une entreprise, une collectivité ou même un particulier très exposé à l’actualité, il existe des mesures pragmatiques à exiger et à appliquer. Insight final : il ne faut pas attendre un “modèle parfait”, il faut des règles simples, vérifiables, et maintenues dans le temps.
| Risque observé | Exemple concret | Garde-fou recommandé | Effet attendu |
|---|---|---|---|
| Répétition de récits de propagande comme des faits | Récit faux sur l’or d’Amulsar attribué à Pachinian | Liste noire de domaines de propagande documentés | Réduction immédiate des citations toxiques |
| Biais selon la langue | Copilot corrige en français mais valide en slovène/danois | Évaluation de performance par langue + renforcement des filtres | Moins de “zones aveugles” linguistiques |
| Synthèses erronées sur images | 9/10 contextualisations fausses via recherche inversée | Priorité aux sources reconnues (fact-checkers, médias établis) | Meilleure traçabilité, moins de fake news “illustrées” |
| Attaques par inondation de contenu | Réseau massif multilingue (centaines de sites) | Détection de réseaux (signatures, duplication, patrons de publication) | Déclassement des fermes à contenu |
-
Quand une réponse vous surprend ou semble “trop nette”, demandez au chatbot de citer plusieurs sources indépendantes, puis vérifiez si ces sources sont reconnues et non des sites satellites.
-
Testez la même question en deux langues (par exemple français et anglais) : si les réponses divergent fortement, vous êtes probablement face à un angle mort des algorithmes.
-
Sur les sujets sensibles (élections, santé, conflits), privilégiez des requêtes qui forcent la prudence : “quels éléments vérifiés confirment…” plutôt que “est-ce vrai que…”.
-
Pour les organisations, mettez en place une “liste blanche” sur des thèmes critiques : le système ne doit s’appuyer que sur un corpus de sources validées pour produire des synthèses.
-
Si vous utilisez des résumés automatiques (moteurs, AI Overview), cliquez au moins une source primaire avant de partager : c’est l’antidote le plus simple à la manipulation.
Le cœur du problème n’est pas seulement la désinformation prorusse, mais la nouvelle surface d’attaque : la façon dont l’intelligence artificielle transforme la popularité en apparence de vérité. La prochaine bataille se jouera sur la transparence des sources, la robustesse multilingue et la capacité à bloquer la propagande avant qu’elle ne devienne, par automatisme, un “fait”.
