Tu veux les meilleurs outils IA avant les autres ?
On teste et on décrypte les nouveaux outils IA chaque soir, en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
OpenAI s'engage dans la protection des mineurs face aux abus de l'IA
OpenAI a récemment dévoilé un plan technique ambitieux visant à protéger les mineurs contre les contenus pédopornographiques générés par ses modèles d'intelligence artificielle. Sous la direction de Sam Altman, l'entreprise s'engage à fournir gratuitement des ressources aux organisations de protection de l'enfance. Ces ressources incluent des outils de détection sophistiqués pour identifier et bloquer les images suspectes sur Internet. Le projet, intitulé Introducing Child Safety Blueprint, met en place des classificateurs capables d'intercepter les requêtes malveillantes avant même que le contenu ne soit créé.
Une augmentation alarmante des signalements
Le National Center for Missing & Exploited Children (NCMEC) a rapporté une augmentation spectaculaire de 1 325 % des signalements liés à la génération d'images par IA en seulement un an. En 2024, le nombre de rapports a atteint 67 000, contre 4 700 l'année précédente. Face à cette explosion, OpenAI a décidé de sortir de sa réserve habituelle pour proposer une stratégie globale qui dépasse ses propres serveurs. L'entreprise surveille désormais l'utilisation de ses modèles par des développeurs externes, en collaboration avec le NCMEC, pour transmettre rapidement les preuves aux forces de l'ordre et accélérer les signalements aux autorités judiciaires.
Renforcement des modèles par une architecture sécurisée
OpenAI a modifié en profondeur les règles de ses modèles pour empêcher la création de représentations réalistes de mineurs dans des contextes dangereux. Dans un billet de blog officiel, Anna Makanju, responsable des affaires mondiales, explique que les ingénieurs développent des classificateurs capables de détecter et de bloquer les requêtes malveillantes avant que le contenu ne soit généré. Ces outils analysent l'intention de l'utilisateur, car les prédateurs utilisent souvent des termes codés pour contourner les mesures de sécurité. Les plateformes qui utilisent l'interface de programmation d'OpenAI reçoivent une notification automatique en cas de tentative de violation des règles.
Tatouages numériques et collaboration avec l'Internet Watch Foundation
Le document Child Protection Blueprint prévoit également l'intégration de tatouages numériques invisibles dans chaque image générée par DALL-E 3. Ces marques permettent aux enquêteurs de retracer l'origine exacte des fichiers sur Internet. La stratégie de surveillance repose sur une gestion stricte des accès, avec une exclusion définitive dès la première infraction grave. En collaboration avec l'Internet Watch Foundation, OpenAI valide l'efficacité de ces systèmes de blocage.
Nettoyage des bases de données pour un avenir plus sûr
Le plan d'OpenAI inclut également le retrait des images sensibles des futurs jeux de données afin d'identifier les contenus abusifs dans les applications tierces. Sam Altman a investi 5 millions de dollars pour aider le NCMEC à renforcer ses capacités techniques de détection. Cette aide financière soutient la modernisation des outils de signalement, car les associations peinent à suivre le rythme des nouvelles créations numériques. OpenAI automatise désormais le transfert des rapports vers la CyberTipline pour réduire le délai entre la détection et l'enquête policière.
En retirant manuellement des millions de clichés des bases d'apprentissage, les ingénieurs d'OpenAI forcent l'intelligence artificielle à ignorer totalement les schémas criminels. Cette stratégie garantit des fondations saines pour les futures versions des outils de génération de texte ou de vidéos. Bien que ce tri nécessite des effectifs humains importants, la société mobilise des experts en cybersécurité pour valider chaque étape.
Vers un standard industriel de protection
OpenAI souhaite désormais que ces standards soient adoptés par tous les acteurs du secteur technologique. En partageant ses classificateurs avec des partenaires externes, l'entreprise espère créer un bouclier commun contre la prolifération des images illicites. Cette initiative pourrait bien établir de nouvelles normes de sécurité dans l'industrie technologique, renforçant ainsi la protection des enfants sur Internet.
