8 janvier 2024
On utilise beaucoup l’Internet comme outil pour se divertir, échanger avec les amis et la famille ou acquérir de nouvelles compétences. Cependant, l’Internet peut aussi être un espace de combat. Il est important que le Canada soit prêt à faire face aux menaces en ligne, tout comme sur terre, en mer et dans l’espace aérien. Des scientifiques de la défense de Recherche et développement pour la défense Canada (RDDC) étudient des moyens de reconnaître la déception en ligne et de protéger les Canadiennes et les Canadiens contre la mésinformation, la désinformation et la malinformation (MDM).
« Le monde de la déception sur Internet connaît une croissance exponentielle », affirme Zachary Devereaux, scientifique de la Défense au Centre de recherche de Valcartier de RDDC. « La recherche sur l’identification et la détection des activités de MDM constitue une étape importante pour protéger la population du Canada contre cette menace croissante. »
La déception peut être toute tentative visant à amener d’autres personnes à adhérer à une fausse croyance. La plupart des gens qui fréquentent l’Internet ont déjà fait face à une forme de déception quelconque ou à de « fausses nouvelles », ce que l’on appelle plus officiellement MDM. La mésinformation est de l’information fausse transmise par des utilisateurs qui ignorent qu’elle est fausse et n’ont pas l’intention de nuire. Le terme « désinformation » désigne plutôt de l’information fausse transmise dans le but de manipuler, de faire du tort ou de diviser et radicaliser des personnes, des organisations et des pays. Pour ce qui est du terme « malinformation », il désigne de l’information qui est fondée sur la vérité, mais que l’on exagère, souvent pour induire en erreur.
Image générée par l’IA représentant un grand robot qui accompagne un humain
Les activités de MDM peuvent viser un article de nouvelles publié sur un site Web douteux ou à partir d’un compte robot sur une plateforme de médias sociaux. Ces exemples peuvent sembler inoffensifs à première vue, mais ils peuvent être très nuisibles et miner la confiance du public dans leurs institutions; ils pourraient même représenter une menace pour la démocratie en période électorale. Lorsque l’utilisation quotidienne d’Internet s’est propagée au sein de la population canadienne dans les années 1990 et au début des années 2000, les acteurs malveillants avaient besoin de compétences spécialisées en retouche d’images ou en codage pour créer et répandre de faux discours. Avec la montée récente des programmes d’intelligence artificielle (IA) avancés et faciles à utiliser, il est plus facile que jamais de mener des activités de déception en ligne. Par une requête, une personne malveillante pourrait élaborer des campagnes de MDM avec des vidéos, des images et des textes réalistes.
L’identification de la déception en ligne n’est pas l’affaire d’une seule personne. En fait, selon un exposé donné récemment lors du symposium international sur la recherche et la technologie appliquée au commandement et au contrôle, le progrès de la technologie et des contenus simulés comme le texte et les images générées par l’IA ne permettent pas aux humains de mieux reconnaître ce qui est réel que s’ils le devinaient au hasard. Cela veut dire que les personnes ont besoin de l’aide de l’IA pour détecter la déception. L’utilisation d’algorithmes et de l’apprentissage machine pour effectuer des analyses massives d’ensembles de données sous supervision humaine est la façon la plus fiable d’identifier avec précision les robots et les activités de MDM en ligne.
Image générée par l’IA représentant un petit robot
Ces algorithmes examinent les caractéristiques étranges de l’expéditeur du message, la forme de la publication, le contenu du message, le médium, la manière dont le message est envoyé et diffusé ainsi que le public cible. Le repérage d’ensembles de comportements étranges ou inhumains dans ces éléments, par exemple, un nombre impossible de publications par jour, facilite la découverte des robots et des messages faux. Des scientifiques du Centre de recherches de Valcartier de RDDC ont étudié les façons dont un système de soutien à l’analyse du renseignement doté d’une capacité d’analyse de texte pourrait détecter certains patrons dans le texte. Le système comporte également un service de raisonnement fondé sur des règles qui peut analyser les données et attribuer des points pour chaque énoncé vrai dans une liste préétablie de propositions (p. ex., « l’utilisateur déclare être un robot »). Plus la note est élevée, plus les risques d’activités de déception sont élevés.
À une époque où de plus en plus de Canadiennes et de Canadiens vont en ligne pour s’informer de l’actualité, la capacité de reconnaître les faux comptes et les fausses informations devient un aspect essentiel de la défense dans l’environnement de l’information, un territoire inconnu où le ministère de la Défense nationale et les Forces armées canadiennes doivent accroître leur présence sur le terrain.