Les signalements CSAM liés à l’intelligence artificielle explosent, Amazon se retrouve au centre de cette problématique majeure
L’année 2025 révèle une augmentation catastrophique des signalements de contenus pédopornographiques produits ou diffusés par intelligence artificielle. Le National Center for Missing and Exploited Children a enregistré plus d’un million de cas, contre seulement 4 700 en 2023. Cette progression exponentielle soulève des questions majeures sur la sécurité des données utilisées dans le secteur technologique.
Amazon occupe une position centrale dans cette crise. L’entreprise représente la majorité écrasante de ces signalements, selon une enquête menée par Bloomberg. Le géant du cloud affirme avoir découvert ces contenus problématiques dans les ensembles de données externes servant à entraîner ses modèles d’IA. Toutefois, Amazon demeure vague sur les sources exactes de ces fichiers compromis.
La confidentialité imposée par Amazon crée une impasse opérationnelle majeure. Fallon McNulty, directrice exécutive de la plateforme CyberTipline, qualifie cette situation d’anomalie. Les signalements d’Amazon restent inexploitables pour les enquêteurs faute d’informations suffisamment détaillées. Les autres entreprises technologiques transmettent généralement des données permettant d’orienter efficacement les investigations.
L’industrie de l’IA fait face à une urgence de protection des mineurs. OpenAI et Character.AI sont poursuivis en justice après que des adolescents aient utilisé leurs chatbots pour planifier des suicides. Meta affronte des accusations concernant une protection défaillante face aux interactions sexuelles explicites entre mineurs et robots conversationnels. Ces incidents révèlent les vulnérabilités systémiques des plateformes actuelles.
Amazon défend sa démarche en assurant vérifier scrupuleusement les données d’entraînement. L’entreprise explique préférer signaler excessivement plutôt que de risquer une omission. Chaque contenu suspect est écarté avant toute utilisation pédagogique, selon un porte-parole. Cependant, les défis de transparence, d’identification des sources contaminées et d’encadrement juridique demeurent non résolu pour l’ensemble du secteur.
