Brief IA : OpenAI : Altman veut dépasser les tokens et une sécurité centriste

OpenAI : Altman veut dépasser les tokens et une sécurité centriste

Brief IA
Tom Levy·3 min·2 vues

Sam Altman a annoncé une approche centriste en matière de sécurité de l'IA, soulignant les risques d'une accélération excessive ou d'un moratoire. Il a également critiqué l'utilisation des tokens comme métrique de facturation, les qualifiant de « terrible », tout en reconnaissant l'absence d'alternative meilleure pour le moment. OpenAI développe un appareil qui pourrait intégrer l'agent personnel Dots, déjà utilisé par Altman dans ses tâches.

⚡
En bref
1OpenAI a signalé des cas d’agents imprévisibles et Sam Altman prône une voie « centriste » en sécurité.
2Altman juge les tokens comme métrique « terrible » mais indique ne pas avoir mieux pour la facturation actuellement.
3Un appareil est en développement chez OpenAI et Dots pourrait y être intégré, Altman l’utilisant déjà pour ses tâches.
💡Pourquoi c'est important — Ces positions éclairent la trajectoire d’OpenAI sur la sûreté, le modèle de facturation et l’intégration d’agents personnels dans du matériel.
⚡Le brief IA que lisent les pros

Tu codes avec l’IA ?

Outils, agents et nouveautés dev IA décryptés, chaque soir en 5 min. Gratuit.

Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.

Choisis ton rythme

Gratuit · Pas de spam · Désabonnement en 1 clic

📄
L'analyse en français

Sam Altman a détaillé sa feuille de route : une approche de sécurité qu’il situe entre précipitation et moratoire, un appareil en développement qui pourrait accueillir l’agent personnel Dots, et une remise en cause de la facturation aux tokens faute d’alternative meilleure à ce stade. Il a aussi livré une lecture optimiste de l’emploi, tout en admettant que certaines catégories disparaîtront.

Sécurité : incidents passés et appel à une voie médiane

OpenAI a déjà signalé des cas où ses agents d’IA se sont comportés de façon imprévisible. Lors d’une séance de questions-réponses avec la presse, Sam Altman a décrit le débat sur la sécurité de l’IA comme étant défectueux des deux côtés : certains souhaitent accélérer le développement en minimisant les risques, tandis que d’autres voudraient suspendre ou arrêter les avancées. Il estime que des dérives sont possibles dans les deux cas, soit par perte de contrôle, soit par concentration du pouvoir. Altman appelle l’industrie à adopter une approche centriste.

Mesure et facturation : les tokens jugés « terribles »

Sam Altman considère que les tokens sont une mauvaise métrique, car différents modèles peuvent traiter des quantités variables de tokens pour accomplir la même tâche. Il indique que son équipe a envisagé de supprimer complètement cette unité, mais que les clients souhaitent conserver une base sous-jacente pour la facturation, rôle assuré par les tokens actuellement. Il précise qu’aucune meilleure alternative n’a été trouvée à ce jour. Ces propos ont été tenus lors de la grande conférence développeurs d’OpenAI.

Produit : un appareil en préparation et l’usage de Dots

OpenAI travaille sur un appareil, et Sam Altman estime qu’il serait raisonnable de supposer que l’agent personnel Dots y sera intégré. Il explique qu’actuellement, Dots gère certaines tâches et notifications pour lui, ce qui l’aide à se détacher de son smartphone et à aborder plus sereinement sa liste du matin. Altman dit avoir retrouvé une partie de son attention et ne plus se sentir aussi dépendant de son téléphone. Il ajoute que consulter tout ce qui s’est passé pendant la nuit le faisait se sentir « pollué », une tâche désormais prise en charge par son Dot.

Impact et emploi : au-delà de la Révolution industrielle

Sam Altman affirme que l’IA aura un impact plus important que la Révolution industrielle et qu’elle doit viser à autonomiser les individus. Il rejette l’idée que la technologie serve uniquement à accélérer l’économie et plaide pour tirer des leçons des erreurs passées, en s’inspirant davantage de la Renaissance. Concernant l’emploi, il rappelle que le taux de chômage des jeunes diplômés universitaires américains était de 5,7 % en juin, selon les autorités américaines. Interrogé par un jeune participant, Altman estime que c’est le meilleur moment pour entrer sur le marché du travail, tout en reconnaissant que certaines catégories d’emplois disparaîtront. Il considère que les prévisions pessimistes sous-estiment la croissance économique, une position qui diffère de certaines de ses déclarations antérieures.

Suivez Brief IA

L'actu IA du jour, aussi dans votre fil.

Commentaires