OpenAI évoque un risque « critique » avec Astra
Le brief IA que les pros lisent chaque soir
Les 7 actus IA du jour, décryptées en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
OpenAI associe son modèle Astra à un niveau de cybersécurité inédit et n’écarte pas un passage en zone de risque « critique ». Lors d’évaluations, deux vulnérabilités inconnues auraient été découvertes. L’entreprise a communiqué il y a deux jours au sujet de ce modèle présenté comme à venir.
Deux failles inconnues et un risque « critique » envisagé
OpenAI indique qu’Astra a identifié deux vulnérabilités qui n’étaient pas connues lors de ses évaluations. L’entreprise précise que les capacités du modèle sont telles qu’elle ne peut plus exclure un franchissement de son seuil de risque qualifié de « critique ». Ce niveau est présenté comme inédit dans le domaine de la cybersécurité pour OpenAI.
Ce que recouvre le seuil « critique » chez OpenAI
Le niveau de risque qualifié de « critique » s’applique lorsqu’un système est capable d’identifier et d’utiliser des vulnérabilités zero-day. Il englobe aussi la faculté de planifier et de mener une attaque informatique sophistiquée en grande partie sans intervention humaine. L’autonomie d’exécution fait partie des critères définissant ce seuil.
Un modèle annoncé, présenté comme le plus avancé en sécurité
Il y a deux jours, OpenAI a publié un post au sujet d’Astra, présenté comme un modèle à venir. L’entreprise a dévoilé le nom GPT-6 Astra et le décrit comme son modèle le plus avancé et le plus puissant en cybersécurité.
Brief IA — L'actualité IA en français
L'essentiel de l'actualité de l'intelligence artificielle, décrypté et expliqué chaque jour.