Sam Altman veut freiner l’IA, mais promet un rythme soutenu

Le patron d’OpenAI plaide pour un coup de frein mesuré et un cadre de sécurité national pour l’IA avancée, tout en assurant que les avancées resteront rapides. En parallèle, de grands acteurs discutent d’un organe d’autorégulation indépendant, une perspective qui alarme des concurrents plus petits.

Autorégulation envisagée et crainte d’un cartel

OpenAI, Anthropic et Google discutent depuis plusieurs mois de la création d’un organe de surveillance indépendant pour l’industrie, selon une source. Des entreprises de taille plus modeste, comme Cohere, craignent que cette initiative ne favorise la formation d’un cartel.

OpenAI durcit ses garde-fous et Altman détaille ses lignes rouges

Avant chaque phase d’entraînement susceptible d’entraîner des avancées majeures en termes de capacités, OpenAI introduit des protocoles de sécurité clairement définis. Sam Altman préconise la mise en place d’un dispositif de sécurité homogène à l’échelle du pays pour encadrer l’IA avancée, tout en maintenant que le secteur ne doit pas attendre l’action des législateurs. Il estime que la coordination internationale nécessite le soutien du gouvernement américain et souhaite que d’autres entreprises s’inspirent des méthodes d’OpenAI pour développer les leurs. À ses yeux, ralentir le développement ne revient pas à le stopper : les avancées continueront d’être rapides, mais à un rythme inférieur à ce qui serait possible. Il juge que ce ralentissement rapporterait bien plus qu’il ne coûterait, qu’aucune compétition interne aux États-Unis ne doit conduire à la négligence, et que les capacités doivent rester en deçà de l’alignement et du niveau de surveillance requis.

Plusieurs dirigeants soutiennent un développement mieux contrôlé

Au cours du week-end, Dario Amodei, Demis Hassabis, Satya Nadella et Elon Musk ont tous exprimé leur soutien à un développement de l’IA mieux contrôlé.