Créer en toute sécurité avec Sora

Créer en toute sécurité avec Sora

Le modèle Sora 2 et l'application Sora offrent une génération vidéo à la pointe de la technologie avec une nouvelle façon de créer ensemble, et nous avons veillé à ce que la sécurité soit intégrée dès le départ. Notre approche repose sur des protections concrètes :

• Distinction du contenu généré par IA : Chaque vidéo générée avec Sora inclut des signaux de provenance visibles et invisibles. Toutes les vidéos Sora intègrent également des métadonnées C2PA—une signature standard de l'industrie—et nous maintenons des outils internes de recherche d'images inversées et d'audio qui peuvent retracer les vidéos jusqu'à Sora avec une grande précision, s'appuyant sur des systèmes réussis issus de la génération d'images ChatGPT et de Sora 1. De nombreuses sorties portent également des filigranes visibles et dynamiques qui incluent le nom du créateur.

• Génération d'images en vidéo avec des ressemblances de personnes réelles : Alors que nous continuons à renforcer les garde-fous de Sora, nous permettons une plus grande expression créative et connexion, y compris la possibilité de créer des vidéos à partir de photos de famille et d'amis. Les utilisateurs peuvent télécharger des images de personnes pour créer des vidéos dans Sora, après avoir attesté qu'ils ont le consentement des personnes représentées et les droits de télécharger le média. Les générations d'images en vidéo avec des personnes sont soumises à des garde-fous de sécurité particulièrement stricts, même plus stricts que ceux autorisés avec les Sora Characters (anciennement connus sous le nom de fonctionnalité cameo). Les images incluant des enfants et des personnes ayant un aspect jeune sont soumises à une modération et à des garde-fous encore plus stricts concernant ce qui peut être créé à partir d'elles. Ces vidéos porteront toujours des filigranes lors du partage.

• Ressemblance basée sur le consentement avec des personnages : Nous avons créé des personnages pour vous donner un contrôle fort sur votre ressemblance dans Sora. La ressemblance inclut votre apparence et votre voix. Nous avons mis en place des garde-fous destinés à garantir que votre ressemblance audio et visuelle capturée dans les personnages soit utilisée avec votre consentement. Vous êtes le seul à décider qui peut utiliser vos personnages, et vous pouvez révoquer l'accès à tout moment. Nous prenons également des mesures pour bloquer les représentations de figures publiques, sauf pour celles utilisant la fonctionnalité des personnages. Les vidéos incluant vos personnages—y compris les brouillons créés par d'autres utilisateurs—sont toujours visibles pour vous. Cela vous permet de revoir et de supprimer facilement (et, si nécessaire, de signaler) toute vidéo mettant en scène votre personnage. Nous appliquons également des garde-fous de sécurité supplémentaires à toute vidéo avec un personnage, et vous pouvez même activer un ensemble de garde-fous encore plus stricts qui restreignent les types d'utilisation. Cela inclut la limitation des changements majeurs à votre apparence, la mise en scène dans des situations embarrassantes, et le maintien d'une identité globalement cohérente.

• Protections pour les adolescents : Sora inclut des protections renforcées pour les utilisateurs plus jeunes, y compris des limitations sur les contenus matures. Le fil d'actualité est conçu pour être approprié pour tous les utilisateurs de Sora et le contenu pouvant être nuisible, dangereux ou inapproprié pour l'âge est filtré pour les comptes d'adolescents. Les profils d'adolescents ne sont pas recommandés aux adultes et les adultes ne peuvent pas initier de messages avec des adolescents. Les contrôles parentaux dans ChatGPT permettent aux parents de gérer si les adolescents peuvent envoyer et recevoir des messages directs, ainsi que de sélectionner un fil d'actualité non personnalisé dans l'application Sora. Par défaut, les adolescents ont également des limites sur la quantité de défilement continu dans Sora.

• Filtrage du contenu nuisible : Sora utilise des défenses en couches pour garder le fil d'actualité sûr tout en laissant place à la créativité. Lors de la création, les garde-fous cherchent à bloquer le contenu dangereux avant qu'il ne soit produit—y compris le matériel sexuel, la propagande terroriste et la promotion de l'automutilation—en vérifiant à la fois les invites et les sorties à travers plusieurs images vidéo et transcriptions audio. Nous avons constitué une équipe de test pour explorer les risques nouveaux, et nous avons renforcé les politiques relatives à la génération d'images compte tenu du réalisme accru de Sora et de l'ajout de mouvement et d'audio. Au-delà de la génération, des systèmes automatisés analysent tout le contenu du fil par rapport à nos Global Usage Policies et filtrent le matériel dangereux ou inapproprié pour l'âge. Ces systèmes sont continuellement mis à jour à mesure que nous apprenons de nouveaux risques et sont complétés par une révision humaine axée sur les dommages les plus impactants.

• Garde-fous audio : Ajouter de l'audio à Sora élève le niveau de sécurité, et bien que des protections parfaites soient difficiles, nous continuons à investir sérieusement dans ce domaine. Sora analyse automatiquement les transcriptions de la parole générée pour détecter d'éventuelles violations de politique, et bloque également les tentatives de générer de la musique imitant des artistes vivants ou des œuvres existantes. Nos systèmes sont conçus pour détecter et stopper de telles invites, et nous honorons les demandes de retrait de créateurs qui estiment qu'une sortie Sora enfreint leur travail.

• Contrôle et recours pour les utilisateurs : Vous choisissez quand et comment partager vos vidéos, et vous pouvez supprimer votre contenu publié à tout moment. Les vidéos ne seront partagées dans le fil que lorsque vous choisissez de le faire. Chaque vidéo, profil, message direct, commentaire et personnage peut être signalé pour abus, avec des recours clairs en cas de violation des politiques. Vous pouvez également choisir de bloquer des comptes à tout moment, ce qui empêchera les autres de voir votre profil ou vos publications, d'utiliser votre personnage, et de vous contacter par message direct.