OpenAI veut des normes pour l’IA qui s’améliore seule
Le brief IA que les pros lisent chaque soir
Les 7 actus IA du jour, décryptées en 5 min. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
OpenAI appelle à un cadre mondial pour les systèmes capables d’amélioration autonome récursive, tout en affirmant que cette autonomie n’existe pas aujourd’hui et ne devrait être poursuivie que de manière sûre. L’entreprise détaille des mesures techniques et de gouvernance, et suggère un leadership américain, alors qu’un panel scientifique de l’ONU relaie des inquiétudes proches et des pistes de coopération.
ONU et OpenAI alertent sur le risque de perte de contrôle
Un panel scientifique des Nations unies a récemment exprimé des préoccupations sur la possibilité de perdre le contrôle d’essaims d’agents autonomes et recommande une coopération internationale en sécurité de l’IA, en s’inspirant de cadres issus de l’aviation, du nucléaire et de la cybersécurité. OpenAI formule des mises en garde convergentes : sans dispositifs de sécurité aboutis, les humains pourraient perdre la main sur le développement de l’IA et ces systèmes pourraient devenir plus dangereux, moins alignés, et représenter un danger pour les personnes.
OpenAI demande un cadre mondial mené par les États-Unis
OpenAI propose que les États-Unis prennent l’initiative dans l’élaboration de normes techniques globales, en s’appuyant sur des instituts nationaux de sécurité de l’IA et des organisations telles que CAISI et ISO. L’entreprise avance des chantiers précis : des méthodes de mesure partagées, des dispositifs de rapports d’incidents et des règles garantissant une supervision humaine des activités de recherche automatisée en IA.
La RSI visée par ces normes n’est pas encore autonome
OpenAI centre ses propositions sur l’amélioration autonome récursive, un processus où des systèmes automatisent de plus en plus la recherche nécessaire à la conception de nouvelles générations d’IA, avec un potentiel d’accélération rapide du progrès. L’entreprise précise toutefois que la RSI totalement autonome n’existe pas aujourd’hui et soutient qu’elle ne devrait être poursuivie que lorsqu’elle pourra l’être en toute sécurité.
Brief IA — L'actualité IA en français
L'essentiel de l'actualité de l'intelligence artificielle, décrypté et expliqué chaque jour.