"Nous sommes submergés d’images et de vidéos truquées au moyen des nouvelles techniques qui permettent de générer et de manipuler les images en utilisant l’intelligence artificielle", écrit Fabio Regazzi (Centre/TI) dans sa motion.
Quelques-unes des questions urgentes de notre époque sont les suivantes: qui fait quoi de nos images et des images de nos enfants? À quelle image peut-on encore se fier? Comment empêcher la production et l’utilisation de deepfake?
L’intelligence artificielle (IA) permet de transformer une simple image en photo de nu ou de générer une vidéo à partir que quelques images. Les fausses photos de nu ou les vidéos pornographiques hypertruquées sont ensuite utilisées pour extorquer de l’argent ou de véritables images à caractère sexuel explicite.
Mineurs touchés
Les victimes sont souvent aussi des mineurs. Les parents sont victimes de chantage à la pornographie hypertruquée dans laquelle ils reconnaissent leurs enfants.
Toutes les personnes dont les images sont librement accessibles sont des victimes potentielles de sextorsion ou d’une escroquerie, tout comme leurs proches. Ce risque est devenu beaucoup plus important ces derniers temps grâce aux nouvelles technologies.
"Tout le monde est concerné. Mais les enfants et les adolescents sont particulièrement touchés dans leur intégrité psychologique et sexuelle", a avancé le Tessinois.
Il faut donc concevoir une approche globale de la protection contre les atteintes massives à la personnalité et la violence pédocriminelle en ligne qui utilisent des images manipulées. Prévention, mesures réglementaires et poursuites judiciaires doivent aller de pair. "Nous ne devons pas laisser la protection de nos images au hasard."
La Suisse en est encore loin. La stratégie nationale de protection contre les cyberrisques ne traite ni le problème des images manipulées, qui devient un phénomène de masse, ni la cyberpédocriminalité.
Compétence des cantons
Si le Conseil fédéral se dit conscient de l'importance de la prévention et de la lutte contre les manipulations d'images en général, notamment en relation avec la pédocriminalité, il rappelle que ce sont les cantons qui sont compétents en matière de poursuite pénale. Plusieurs acteurs de la Confédération, notamment fedpol, sont également engagés dans cette lutte, a rappelé le ministre de justice et police Beat Jans.
La structure existante et les dispositions pénales en vigueur constituent déjà un éventail d'instruments suffisant pour combattre la cybercriminalité, estime le gouvernement. Il n'est donc pas nécessaire d'élaborer une stratégie sur un thème en particulier, comme l'usage abusif d'images.
Le Conseil national devra se prononcer.