"Nous sommes submergés d’images et de vidéos truquées au moyen des nouvelles techniques qui permettent de générer et de manipuler les images en utilisant l’intelligence artificielle", écrit le sénateur Fabio Regazzi (Centre/TI), auteur de la motion.
"Quelques-unes des questions urgentes de notre époque sont les suivantes: qui fait quoi de nos images et des images de nos enfants? À quelle image peut-on encore se fier? Comment empêcher la production et l’utilisation de deepfake?"
Il y a un besoin d'agir dans le domaine. Les mesures existantes sont trop légères, a souligné Maya Bally (Centre/AG) au nom de la commission.
L'intelligence artificielle (IA) permet de transformer une simple image en photo de nu ou de générer une vidéo à partir que quelques images. Les fausses photos de nu ou les vidéos pornographiques hypertruquées sont ensuite utilisées pour extorquer de l’argent ou de véritables images à caractère sexuel explicite.
Mineurs touchés
Les victimes sont souvent aussi des mineurs. Et les parents sont victimes de chantage à la pornographie hypertruquée dans laquelle ils reconnaissent leurs enfants.
Toutes les personnes dont les images sont librement accessibles sont des victimes potentielles de sextorsion ou d’une escroquerie, tout comme leurs proches. Ce risque est devenu beaucoup plus important ces derniers temps grâce aux nouvelles technologies, selon M. Regazzi.
Il faut donc concevoir une approche globale de la protection contre les atteintes massives à la personnalité et la violence pédocriminelle en ligne qui utilisent des images manipulées, demande le motionnaire. Prévention, mesures réglementaires et poursuites judiciaires doivent aller de pair.
Le Conseil national a décidé de préciser le texte de la motion. La stratégie demandée doit englober des initiatives coordonnées en matière d’éthique, de technique, de droit, de sensibilisation et d’intervention et favoriser l'adoption de mesures de protection concrètes de la part des acteurs publics et privés.
Cela revient à confier une tâche presque infinie au Conseil fédéral, a déploré Roger Golay (MCG/GE). Et d'estimer que les dispositions légales sont suffisantes.
Compétence des cantons
Si le Conseil fédéral se dit conscient de l'importance de la prévention et de la lutte contre les manipulations d'images en général, notamment en relation avec la pédocriminalité, il rappelle que ce sont les cantons qui sont compétents en matière de poursuite pénale.
Plusieurs acteurs de la Confédération, notamment fedpol, sont également engagés dans cette lutte, a rappelé le ministre de justice et police Beat Jans, qui a noté que leur collaboration fonctionne bien.
La structure existante et les dispositions pénales en vigueur constituent déjà un éventail d'instruments suffisant pour combattre la cybercriminalité, estime le gouvernement. "Ce n'est pas en créant une nouvelle stratégie que nous allons régler le problème."
Le ministère public et les polices subissent déjà une forte pression. Il faut qu'ils utilisent leurs ressources limitées pour des cas concrets et non pour plus de bureaucratie, a plaidé le ministre, en vain.