À l’ère de l’intelligence artificielle capable d’imiter la parole humaine, les expressions faciales et même le ton émotionnel avec une précision troublante, un phénomène inquiétant prend de l’ampleur : des entreprises et des individus utilisent des représentations générées par IA de dirigeants nationaux pour promouvoir des produits et services. Ces faux soutiens, souvent synchronisés avec des expressions verbales et un langage imité, donnent l’illusion que le leader approuve réellement le produit. Pour de nombreux citoyens peu informés, cette illusion est convaincante et dangereuse.

L’ampleur du problème

Une publicité trompeuse sous forme de vidéos et des voix générées par IA de leaders politiques sont utilisées pour vendre tout, du dentifrice aux placements financiers. Ces imitations sont souvent indiscernables des images réelles.

Une manipulation du public ferait que les citoyens pourraient croire que ces soutiens sont authentiques, ce qui les pousse à prendre des décisions mal informées. D’où une érosion de l’intégrité démocratique : lorsque des figures publiques de confiance sont faussement présentées comme porte-parole commerciaux, cela compromet la crédibilité de leurs communications officielles.

Ce phénomène a une portée mondiale dans la mesure où ce problème dépasse les frontières. De l’Amérique du Nord à l’Asie, l’usurpation par IA est utilisée à des fins lucratives et propagandistes.

Des exemples concrets et tangibles sont les alertes récentes du FBI et des autorités canadiennes qui ont mis en lumière des escroqueries utilisant des voix et images générées par IA de hauts responsables pour tromper le public. Ces imitations font souvent partie de campagnes de fraude plus larges, incluant le hameçonnage, les arnaques financières et la désinformation politique.

Mesures proposées pour lutter contre l’usurpation politique par IA

Une action législative serait de criminaliser les faux soutiens politiques synthétiques. Les gouvernements doivent adopter des lois interdisant explicitement l’utilisation de l’IA pour imiter des responsables publics à des fins commerciales ou trompeuses. Et de définir le “soutien synthétique” par des cadres juridiques qui doivent distinguer clairement les soutiens générés par IA des soutiens authentiques. Avec pour conséquence des sanctions financières en imposant des amendes sévères allant de 500 000 à 5 millions de dollars selon la gravité et la portée de l’imitation.

La mise en place d’une indemnisation des victimes en s’assurant que les contrevenants soient obligés à compenser les personnes ou entités trompées ou lésées par ces faux soutiens.

Par ailleurs, la reconnaissance de la responsabilité des médias par la suspension temporaire des licences de diffusion ou de publication des médias qui diffusent sciemment des imitations sans avertissement. Puis une fermeture définitive en cas de récidive en révoquant les licences des plateformes qui enfreignent à plusieurs reprises les lois sur l’usurpation.

Exigences de transparence

L’imposition de mentions obligatoires qui obligerait que tout contenu généré par IA représentant des figures publiques puisse être accompagné d’une mention claire et visible indiquant qu’il est synthétique. La création d’un filigrane numérique qui rendrait obligatoire le marquage numérique des vidéos et audios générés par IA pour en tracer l’origine et garantir la responsabilité.

Il serait important de conseiller le grand public par des campagnes de sensibilisation nationales. Cela pourrait être un lancement d’une série d’initiatives pour apprendre aux citoyens à repérer les deepfakes et à vérifier les soutiens.

Dans la même veine, les décideurs publics s’attacheront à promouvoir une littératie médiatique dans les écoles en intégrant l’éducation numérique dans les programmes scolaires pour préparer les générations futures à la désinformation alimentée par l’IA.

C’est certain que l’intelligence artificielle est un outil puissant mais quand cette intelligence est utilisée pour usurper l’image de dirigeants politiques et de leaders d’opinion à des fins lucratives, elle devient une arme contre la vérité et la confiance.

Les gouvernements, les entreprises technologiques et la société civile doivent agir rapidement pour protéger les institutions démocratiques et l’intégrité publique. Le moment d’agir, c’est maintenant.

Maintenant à la retraite, Long Van a oeuvré pendant plus de 40 ans en tant qu’expert reconnu dans le secteur des finances. Il a également été journaliste et a aussi fait ses marques dans les organisations communautaires.