Les extrémistes violents qui n'ont pas les moyens de mener une attaque au Canada pourraient compenser en perpétrant des canulars à l'aide de l'intelligence artificielle, selon une analyse récemment publiée.

Le rapport de mai du Centre intégré d'évaluation du terrorisme fédéral, obtenu grâce à la Loi sur l'accès à l'information, prévient qu'une telle supercherie visuelle, connue sous le nom d'hypertrucage («deepfake») constitue «une menace persistante pour la sécurité publique».

Le centre a entamé ce rapport après l'apparition, le 22 mai, d'une image sur les réseaux sociaux montrant une fumée noire près du Pentagone américain, provoquant une baisse temporaire des actions. Les autorités ont confirmé qu'il n'y avait pas d'urgence.

Les images synthétiques, la vidéo et l’audio sont de plus en plus faciles à générer grâce à des applications pilotées par l’intelligence artificielle, permettant aux gens de diffuser de fausses informations et de semer la confusion.

Le centre, qui emploie des membres de la communauté de la sécurité et du renseignement, prédit que certains acteurs menaçants créeront «presque certainement» de fausses images concernant le Canada au cours de l'année à venir, compte tenu des outils disponibles et de la prévalence de la désinformation.

Le Mécanisme de réponse rapide du Canada (MRR), une unité fédérale qui surveille la manipulation étrangère de l'information et l'ingérence, a récemment souligné un tel épisode, affirmant qu'il provenait probablement du gouvernement chinois.

L'intervention étrangère, qui commencé en août, a utilisé un réseau de comptes de médias sociaux nouveaux ou piratés pour publier des commentaires et des vidéos remettant en question les normes politiques et éthiques de divers députés, en utilisant une personnalité populaire de langue chinoise au Canada, a déclaré MRR Canada. 

Des impacts réels

L’analyse du Centre intégré d'évaluation du terrorisme indique que les extrémistes pourraient utiliser les hypertrucages pour prôner la violence, promouvoir des récits précis, provoquer la panique, ternir les réputations et éroder la confiance envers le gouvernement et les institutions sociétales.

«Les canulars fournissent aux extrémistes violents une technique efficace pour perturber la vie quotidienne ou pour intimider des groupes ou des individus ciblés, notamment en détournant potentiellement les ressources de sécurité de leurs tâches habituelles», peut-on lire dans le rapport.

«La poursuite des canulars hypertruqués pourrait entraîner un environnement concurrentiel entre les acteurs de la menace, dans lequel l'objectif est de provoquer des impacts croissants dans le monde réel, tels que des dommages économiques.»

Les extrémistes violents dotés de «capacités limitées» sont plus susceptibles de recourir à des canulars que les acteurs capables de mener «des actions plus directes», conclut le rapport.

«Les médias hypertruqués rendront plus difficile aux autorités de réagir, de prioriser et d'enquêter sur les menaces extrémistes violentes.»

En mai, le Service canadien du renseignement de sécurité a invité des experts et des praticiens de la sécurité à un atelier pour explorer les menaces posées par ces technologies de désinformation.

Une menace «sans précédent»

Un rapport qui en a résulté, basé sur des documents présentés lors de l'événement, a déclaré que les organisations terroristes «reconnaissent sûrement» le potentiel du recours aux hypertrucages dans la diffusion de la propagande et la coordination des attaques.

«Le spectre imminent des hypertrucages présente une menace sans précédent pour la sécurité nationale. L'évolution et la prolifération rapides de cette technologie n'exigent rien de moins qu'une réponse résolue et globale», indique le rapport.

Les démocraties doivent investir dans des technologies de pointe de détection des hypertrucages capables de démasquer les imposteurs numériques, ainsi que de criminaliser la création et la diffusion d'hypertrucage, ajoute-t-il.

Cependant, la bataille contre les hypertrucages ne peut être gagnée uniquement grâce à la technologie et à la législation, prévient le rapport.

«Les citoyens doivent être dotés du pouvoir de la pensée critique et de l'éducation aux médias, leur permettant ainsi de discerner la vérité de la fabrication. En favorisant une société professionnellement sceptique, informée et résiliente, les gouvernements peuvent construire un bouclier contre les effets corrosifs des hypertrucages», souligne-t-on.

Pourtant, cette tâche pourrait encore s’avérer difficile.

Ce mois-ci, le Centre canadien pour la cybersécurité a souligné dans un rapport sur les menaces contre les institutions démocratiques que «la capacité de générer des hypertrucages dépasse notre capacité à les détecter».

«Les modèles de détection actuellement accessibles au public ont du mal à faire la distinction de manière fiable entre les hypertrucages et le contenu réel.»

Jim Bronskill, La Presse Canadienne