Pédopornographie générée par l’IA : défendable ou interdit ?
Le site Internet de Rasmus* contient des milliers d’images de personnes mineures, principalement des filles. Mais il n’existe à priori pas de victimes, car le Danois de 28 ans a créé toutes les images lui-même, à l’aide de l’intelligence artificielle (IA). Un cas international qui passe aussi par la Suisse.
Rasmus* contemple les images sur son ordinateur d’un œil satisfait. Il y en a une quantité phénoménale, largement plus de 300 000. Il a fallu s’exercer, mais à présent, Rasmus maîtrise le programme d’IA – en grande partie gratuit – sur le bout des doigts, si bien que personne ne parvient plus à savoir si les photos des filles et des garçons dans des poses suggestives sont authentiques ou non. Une situation avantageuse sous plusieurs aspects pour Rasmus : zéro victime, et pourtant, il a des milliers d’images à proposer à ses acheteurs.
La rencontre annuelle des experts en matière de pédocriminalité s’est tenue en juin 2024 au siège d’Europol à La Haye (NL). La Grande-Bretagne et le Danemark y ont présenté conjointement le cas de ce jeune Danois qui faisait de la publicité pour des contenus pornographiques explicites sur TikTok, YouTube, X, Discord et son propre site. Une grande partie des contenus librement accessibles n’est pas répréhensible, car même si les filles sur les photos ont l’air jeune, les contenus ne sont pas explicitement pornographiques. Pour cinq euros par mois, Rasmus propose en outre un contenu premium, jusqu’à mille images par mois. La National Crime Agency britannique, qui est tombée sur ce site lors de ses investigations secrètes, a payé les cinq euros. Le contenu exclusif s’avère être de la pédopornographie. Grâce à cet achat, la police est parvenue à identifier l’auteur. Rasmus est arrêté à son domicile au Danemark.
Un cas international – qui passe aussi par la Suisse
La police saisit plus de 300 000 images, toutes générées par l’IA, dont près d’un dixième sont à caractère pédopornographique. Les près de 300 acheteurs résident dans plus d’une trentaine de pays différents. En automne, Europol informe fedpol que trois d’entre eux vivent en Suisse. fedpol alerte les cantons de domicile. Une première perquisition est effectuée dans le canton de Bâle-Campagne, suivie par une deuxième dans le canton de Lucerne, puis une troisième en ville de Zurich. Lors de ses aveux, l’un des individus a prétendu qu’il ne savait pas que la possession de matériel pédopornographique généré par l’IA était punissable.
Les auteurs profitent-t-ils effectivement d’une zone grise de la justice ? Non, selon le code pénal suisse. L’art. 197 spécifie expressément que la fabrication et la possession de représentations contenant des actes d’ordre sexuel non effectifs avec des mineurs sont punissables. Peu importe qu’il s’agisse de dessins, de photos ou d’images générées par l’IA : tout est passible d’une sanction.
L’IA détourne notre attention des vraies victimes
Le contenu pédopornographique généré par l’IA pose un immense défi à la police. La quantité de matériel augmente de façon exponentielle depuis des années et les programmes deviennent de plus en plus accessibles et conviviaux. Quand bien même l’IA ne génère pas elle-même de victimes, elle empêche de se concentrer sur les véritables victimes et complique le travail de la police. En effet, les images réelles existent toujours, mais le travail à fournir pour distinguer les vraies images de celles générées par l’IA devient toujours plus complexe et important. Or, derrière chaque vraie image il y a une victime, un enfant abusé qui doit être retrouvé. La coopération et l’échange d’informations en sont d’autant plus importants, tant entre fedpol et ses partenaires internationaux comme Europol qu’au plan national. Car la priorité absolue doit toujours être donnée aux victimes.
« En matière de pédopornographie, l’identification des victimes est particulièrement importante, car celles-ci nous mènent généralement jusqu’à d’autres criminels. Le cercle s’élargit de plus en plus. Avec le matériel généré par l’IA, souvent nous ne savons même pas s’il y a vraiment une victime. C’est ce qui rend notre travail compliqué. »
Marcel, enquêteur fédéral
* Prénom modifié