Deepfakes sexuels : l’Unicef alerte sur une explosion des images d’enfants manipulées

L’utilisation de l’intelligence artificielle à des fins criminelles inquiète de plus en plus les organisations internationales. L’Unicef tire la sonnette d’alarme face à la prolifération d’images d’enfants détournées en contenus sexuels, notamment via des techniques de « nudification », qui permettent de supprimer ou modifier les vêtements d’une victime.

Une enquête menée avec Interpol révèle qu’au moins 1,2 million de mineurs, répartis dans onze pays, auraient subi ce type d’abus numériques au cours de l’année écoulée. Parmi les États concernés figurent le Maroc, le Brésil, le Mexique, la Tunisie ou encore la Serbie. Dans certaines régions, cela représenterait l’équivalent d’un enfant par classe.

Lire aussi : Le CNDH lance une campagne nationale contre la violence numérique

Des abus bien réels derrière des images artificielles

Pour l’agence onusienne, ces contenus générés ou altérés par l’IA doivent être considérés comme des violences sexuelles à part entière. Même virtuelles, leurs conséquences psychologiques et sociales sont profondes et durables.

L’Unicef pointe également le manque de protections intégrées dans de nombreux systèmes d’IA, un problème aggravé lorsque ces outils sont directement reliés aux réseaux sociaux, facilitant une diffusion rapide des images manipulées. La plateforme X est d’ailleurs visée par plusieurs procédures après la circulation de contenus pornographiques produits par son chatbot.

Face à cette menace croissante, l’organisation appelle les concepteurs d’IA à instaurer des barrières solides et exhorte les entreprises numériques à empêcher la propagation de ces contenus, plutôt que d’agir uniquement après leur apparition. Elle demande aussi aux gouvernements d’adapter leurs lois pour inclure les deepfakes dans la définition des abus sexuels sur mineurs et sanctionner sévèrement leur création et leur diffusion.