Sora 2 : Sécurité et innovation au cœur de la création vidéo

Sora 2 : Une avancée sécurisée dans la création vidéo

Le modèle Sora 2, associé à l'application Sora, propose une technologie de génération vidéo à la pointe, tout en intégrant des mesures de sécurité dès sa conception. L'objectif est de permettre une création collaborative en toute sécurité, grâce à des protections bien définies.

Traçabilité des contenus générés par IA

Chaque vidéo produite avec Sora est dotée de signaux de provenance, à la fois visibles et invisibles. Ces vidéos intègrent des métadonnées C2PA, une norme reconnue dans l'industrie, qui permettent de retracer les vidéos jusqu'à leur source avec précision. Des outils internes de recherche d'images inversées et d'audio, inspirés des systèmes utilisés pour ChatGPT et Sora 1, renforcent cette traçabilité. De plus, de nombreuses vidéos affichent des filigranes dynamiques, incluant le nom du créateur, pour une identification claire.

Création vidéo à partir d'images réelles

Sora permet de transformer des photos de famille et d'amis en vidéos, à condition que l'utilisateur ait obtenu le consentement des personnes concernées. Les vidéos impliquant des personnes réelles sont soumises à des garde-fous très stricts, surpassant ceux des Sora Characters. Les images d'enfants ou de personnes à l'apparence jeune sont particulièrement surveillées, avec des restrictions accrues sur leur utilisation. Ces vidéos sont systématiquement marquées par des filigranes lors de leur partage.

Contrôle des ressemblances avec des personnages

Sora offre la possibilité de créer des personnages, permettant aux utilisateurs de contrôler leur apparence et leur voix dans l'application. Des garde-fous sont en place pour s'assurer que l'utilisation de ces ressemblances se fait avec le consentement de l'utilisateur. Celui-ci peut décider qui peut utiliser ses personnages et révoquer cet accès à tout moment. Nous prenons également des mesures pour bloquer les représentations de figures publiques, sauf pour celles utilisant la fonctionnalité des personnages. Les vidéos créées avec ces personnages, y compris les brouillons d'autres utilisateurs, restent visibles pour l'utilisateur concerné, qui peut les supprimer ou les signaler si nécessaire. Des garde-fous supplémentaires peuvent être activés pour restreindre les modifications majeures de l'apparence ou les situations embarrassantes.

Mesures de protection pour les adolescents

Sora a mis en place des protections renforcées pour les jeunes utilisateurs, limitant l'accès à des contenus matures. Le fil d'actualité est conçu pour être approprié à tous les âges, et les contenus potentiellement nuisibles ou inappropriés sont filtrés pour les comptes d'adolescents. Les profils d'adolescents ne sont pas visibles par les adultes, qui ne peuvent pas initier de conversations avec eux. Par défaut, les adolescents ont également des limites sur la quantité de défilement continu dans Sora. Les parents peuvent gérer les interactions de leurs enfants via ChatGPT, en contrôlant les messages directs et en choisissant un fil d'actualité non personnalisé.

Filtrage du contenu nuisible

Sora utilise une approche en couches pour sécuriser le fil d'actualité tout en encourageant la créativité. Les garde-fous bloquent les contenus dangereux avant leur création, notamment les contenus sexuels, la propagande terroriste ou l'incitation à l'automutilation. Une équipe dédiée teste les nouveaux risques, et les politiques de génération d'images sont renforcées pour tenir compte du réalisme accru de Sora. Des systèmes automatisés analysent le contenu du fil pour détecter et filtrer les matériaux dangereux ou inappropriés, complétés par une révision humaine. Les systèmes sont continuellement mis à jour à mesure que nous apprenons de nouveaux risques.

Sécurité audio renforcée

L'ajout d'audio dans Sora nécessite des mesures de sécurité supplémentaires. Bien que la perfection soit difficile à atteindre, Sora investit dans l'analyse automatique des transcriptions pour détecter les violations de politique. Les tentatives de création de musique imitant des artistes vivants ou des œuvres existantes sont bloquées. Les systèmes sont conçus pour identifier et arrêter ces initiatives, et les demandes de retrait de créateurs estimant que leur travail est enfreint sont respectées.

Contrôle utilisateur et recours

Les utilisateurs ont le contrôle total sur le partage de leurs vidéos, pouvant les supprimer à tout moment. Les vidéos ne sont partagées dans le fil que sur décision de l'utilisateur. Chaque élément de contenu, qu'il s'agisse de vidéos, de profils, de messages directs, de commentaires ou de personnages, peut être signalé pour abus. Des recours clairs sont disponibles en cas de violation des politiques. Les utilisateurs peuvent également bloquer des comptes, empêchant ainsi tout contact non désiré ou l'utilisation de leur personnage.