Meta : ralentir l'IA sans accord sectoriel est possible

Mark Zuckerberg soutient que les laboratoires d'IA sont en mesure de ralentir leur progression de leur propre initiative lorsque la sécurité l'exige, sans nécessiter d'accord sectoriel. Il présente l'alignement comme un facteur de différenciation concurrentielle et mentionne le décalage de Muse. Alexandr Wang alerte sur les risques de l'amélioration auto-récursive et appelle à une supervision indépendante. Anthropic défend des mécanismes coordonnés, tandis que Jensen Huang privilégie des évaluations externes et la responsabilité individuelle.

Wang alerte sur l’auto-amélioration et prône des garde-fous

Alexandr Wang estime que se précipiter vers l’amélioration auto-récursive représente l’un des chemins les plus risqués vers une perte de contrôle potentielle sur des modèles puissants. Il indique que Meta consacre la majorité significative de sa puissance de calcul à servir les utilisateurs plutôt qu’à poursuivre l’amélioration auto-récursive, et précise que d’autres laboratoires peuvent faire le même choix. Il souligne que l’IA est une technologie très puissante, qui implique une grande responsabilité et la nécessité de contrôles et contrepoids adaptés. Plus tard mardi, il a également défendu l’importance d’une gouvernance solide, d’évaluateurs externes et d’une supervision indépendante lors des lancements de modèles.

Coordination réglementée ou responsabilité individuelle : le débat s’installe

La question de la nécessité de freiner l’avancée de l’IA de pointe par le biais de mesures de sécurité coordonnées et contrôlables suscite un débat croissant. Anthropic s’est prononcé en faveur de réglementations gouvernementales ainsi que de dispositifs permettant aux principaux laboratoires de suspendre leurs travaux en cas de signaux d’alerte. À l’opposé, certains dirigeants du secteur technologique, parmi lesquels Jensen Huang, privilégient des évaluations indépendantes et une responsabilité propre à chaque entreprise d’IA.

Zuckerberg mise sur le marché et l’alignement comme différenciateurs

Mark Zuckerberg soutient que la pression du marché fera de la confiance et de l’alignement des systèmes des atouts concurrentiels majeurs. Il affirme que chaque laboratoire a la responsabilité et l’incitation d’avancer au rythme nécessaire pour entraîner ses modèles en toute sécurité. Selon lui, la confiance et l’alignement deviennent rapidement les capacités les plus déterminantes pour différencier agents et modèles, et il prévient que les laboratoires qui n’y consacrent pas leurs efforts prendront du retard. Dans ce contexte, il affirme que les laboratoires n’ont pas besoin d’un accord à l’échelle de l’industrie pour ralentir si la sécurité l’exige, une position publiée mardi sur X.

Meta cite le report de Muse pour renforcer la sécurité

Afin d’illustrer cette méthode, Mark Zuckerberg explique que Meta a différé le lancement de son modèle Muse de plusieurs mois pour en améliorer la sécurité. Il précise que la société n’a pas sollicité les autres laboratoires pour adopter la même démarche avant de prendre cette décision, ajoutant que ce choix a été effectué de façon unilatérale par Meta.