OpenAI : Sam Altman veut freiner l'essor de l'IA

OpenAI : Sam Altman veut freiner l'essor de l'IA

En 2023, Sam Altman s’était opposé à l’idée de ralentir le développement de l’IA, alors que des chercheurs publiaient déjà une lettre ouverte demandant aux laboratoires d’IA de suspendre le développement de modèles plus puissants que GPT-4 de ChatGPT (qui était la référence à l’époque). Mais aujourd’hui, le patron d’OpenAI a un avis différent à ce sujet.

Invité dans le podcast “Invest Like The Best”, il a admis qu’il “faudra peut-être ralentir le rythme du développement de l’IA”. L’objectif de ce ralentissement serait de donner à la société le temps de s’adapter aux nouvelles capacités d’IA qui arrivent. Cependant, il a également expliqué qu’il faut trouver une solution qui ne ressemble pas à une “mainmise réglementaire” ni à une collusion entre les géants de l’IA.

Des experts demandent au gouvernement américain d’agir

L’opinion de Sam Altman est partagée par de nombreux employés de laboratoires d’IA américains, dont OpenAI, Anthropic, Meta, Google ou encore Microsoft, qui ont signé une pétition actuellement en circulation. Dans ce document, les signataires demandent au gouvernement américain de soutenir un effort international pour développer les moyens techniques et de gouvernance permettant de contrôler délibérément la progression du développement des IA de pointe.

• “Pour exploiter pleinement le potentiel de l’IA, l’industrie, les gouvernements et la société dans son ensemble pourraient avoir besoin de la possibilité de gagner du temps pour faire face aux risques émergents, élaborer des mesures de sécurité et renforcer la surveillance”, lit-on dans cette pétition.

Sans action coordonnée au niveau international, les pays et les laboratoires d’IA ne peuvent pas ralentir leurs recherches à cause de la concurrence.

L’incident grave qui a choqué Sam Altman

Sam Altman fait cette déclaration dans un podcast alors qu’OpenAI a récemment découvert un incident de sécurité grave sur des modèles en développement. En substance, l’IA était en cours d’évaluation. Pendant cette étape, celle-ci s’est rendu compte qu’elle pouvait tricher aux évaluations. Pour ce faire, l’IA a trouvé plusieurs failles de sécurité, puis a exploité ces failles pour s’échapper de son environnement et pénétrer les systèmes de la plateforme Hugging Face, afin d’obtenir les réponses aux tests (afin d’avoir de bonnes notes sur les évaluations).

Pour Sam Altman, il s’agissait d’un “incident cyber digne de la science-fiction”, qui l’a profondément choqué. “C’est le premier incident de sécurité que j’ai vécu de manière très intense”, a-t-il expliqué. Il a été étonné de la réaction modérée du grand public lorsque l’incident a été révélé. Du côté d’OpenAI, le développement du système en cause a été suspendu. Cependant, Sam Altman se demande aujourd’hui ce qu’il faut faire si cela est le nouveau rythme de progression de l’intelligence artificielle.

Ce qu’on en pense

Le fait qu’une IA ait décidé de pirater des logiciels pour tricher à une évaluation, sans que personne ne le demande, est préoccupant. Cependant, pour que les laboratoires d’IA décident de ralentir la progression de la technologie, il faudrait que tous les pays acceptent d’un commun accord d’agir. Sinon, les laboratoires d’IA américains ne pourraient pas se permettre de perdre du temps, pendant que les concurrents chinois continuent de progresser.

Récemment, la startup chinoise Moonshot a lancé le modèle Kimi K3, dont les performances sont très proches de celles des meilleures IA américaines. De plus, Moonshot a décidé de rendre ce modèle ouvert, en publiant les “poids” de celui-ci.

Sam Altman estime désormais qu’il pourrait être nécessaire de ralentir le rythme de progression de l’intelligence artificielle. Cela permettrait à la société de gagner du temps pour s’adapter à une nouvelle réalité.