Récemment, j'ai vu un rapport très digne d'attention, OpenAI a lancé ce qu'on appelle le « Plan de sécurité pour les enfants », principalement pour faire face au problème du contenu d'abus sexuels sur des enfants généré par l'intelligence artificielle. Honnêtement, ce sujet devient de plus en plus sérieux.

Selon les données de la Fondation pour la surveillance d'Internet, rien qu'au premier semestre 2025, plus de 8 000 signalements de contenu d'abus sexuels sur des enfants généré par l'IA ont été détectés, soit une augmentation de 14 % par rapport à l'année précédente. Ces cas incluent l'utilisation d'outils d'IA pour créer de fausses images explicites à des fins de chantage, ou la génération de messages destinés à tromper des mineurs. Les chiffres ne cessent d'augmenter, ce qui reflète un problème très grave.

Fascinant, il semble que l'initiative d'OpenAI cette fois ait été aussi une réaction à la pression. En novembre dernier, un tribunal en Californie a intenté sept poursuites contre OpenAI, accusant GPT-4 de posséder des fonctionnalités de manipulation psychologique, ayant conduit à plusieurs suicides chez des adolescents. Les plaignants ont cité quatre cas de décès et trois cas de troubles délirants graves. Sous la pression de l'opinion publique, ils ont commencé à prendre ce problème au sérieux.

Ce nouveau cadre de planification se concentre principalement sur trois axes : d'abord, mettre à jour la législation pour faire face aux contenus d'abus sexuels sur des enfants générés ou manipulés par l'IA ; ensuite, améliorer les mécanismes de signalement et de coordination entre les fournisseurs de services ; enfin, intégrer directement la conception de sécurité dans les systèmes d'IA pour prévenir et détecter les abus. Ils collaborent également avec le Centre national pour les enfants disparus et exploités (NCMEC), les forces de l'ordre et l'organisation à but non lucratif Thorn.

Cependant, OpenAI admet lui-même qu'aucune méthode unique ne peut résoudre ce défi. L'objectif du cadre est d'accélérer la réponse, d'améliorer la détection des risques, de maintenir la responsabilité, tout en permettant aux forces de l'ordre de suivre le rythme des avancées technologiques. De plus, ils ont mis à jour leurs directives pour les utilisateurs de moins de 18 ans, interdisant la génération de contenus inappropriés et de conseils d'automutilation.

En résumé, cela reflète la crise à laquelle toute l'industrie est actuellement confrontée. Avec la popularisation de la technologie IA, les méthodes d'abus sur les enfants évoluent aussi. Trouver un équilibre entre innovation et protection est une problématique concrète à laquelle toutes les entreprises technologiques doivent faire face.