L’IA et sa régulation t’intéressent ?
Lois, cadres et décisions qui façonnent l’IA, décryptés en français. Gratuit.
Inclus dès l'inscription : notre sélection des meilleurs guides & comparatifs IA.
Choisis ton rythme
Gratuit · Pas de spam · Désabonnement en 1 clic
Une pause mondiale dans le développement de l'IA : la proposition d'Anthropic
Anthropic, une entreprise de premier plan dans le domaine de l'intelligence artificielle, a récemment proposé une idée audacieuse : une pause mondiale dans le développement de l'IA. Cette suggestion émane de deux de ses hauts responsables, Marina Favaro et Jack Clark, qui ont exprimé leur inquiétude quant au rythme effréné des avancées technologiques. Dans un article de blog, ils ont souligné qu'il serait bénéfique pour le monde de ralentir temporairement le développement de l'IA afin de permettre aux structures sociétales et à la recherche d'alignement de suivre le rythme.
Jeudi, Favaro et Clark ont comparé leur proposition à un partenariat international similaire à celui qui existe pour la surveillance de la prolifération des armes nucléaires. Ils ont insisté sur le fait que le monde ne dispose pas de "décennies" pour mettre en place un tel accord, soulignant l'urgence de la situation.
Réactions variées à la proposition
La suggestion d'Anthropic a suscité une variété de réactions dans le secteur technologique. Certains observateurs ont exprimé des doutes quant aux motivations de l'entreprise, soupçonnant qu'il s'agisse d'une stratégie pour se positionner avantageusement avant une éventuelle introduction en bourse. Un porte-parole d'Anthropic a clarifié que l'entreprise ne demandait pas une pause immédiate, mais souhaitait plutôt que des systèmes soient en place pour permettre une telle pause si elle devenait nécessaire. L'idée est d'explorer cette possibilité avant que des limitations ne s'imposent d'elles-mêmes.
Mitt Romney et la sécurité de l'IA
L'ancien sénateur américain Mitt Romney a réagi à cette proposition en mettant l'accent sur la nécessité de développer des systèmes de sécurité pour l'IA. Selon lui, la priorité nationale la plus urgente devrait être de se concentrer sur les risques associés aux armes d'IA, aux pathogènes, au chômage de masse, à la surveillance et même à l'extinction potentielle de l'humanité. Romney a exprimé ses préoccupations sur X, soulignant que ces menaces ne doivent pas être ignorées.
David Sacks et la critique de la nationalisation
David Sacks, ancien conseiller à la Maison Blanche sur la crypto et l'IA, a critiqué la suggestion d'Anthropic, la qualifiant de tentative de nationalisation. Il a ironisé sur le fait que comparer un laboratoire d'IA à des armes nucléaires et évoquer des menaces existentielles tout en poursuivant le développement est suspect. Sacks a exprimé ses critiques sur X, sans nommer directement Anthropic, mais en laissant entendre que l'entreprise pourrait chercher à capturer la régulation à son avantage.
Andrew B. Hall et le scepticisme sur la faisabilité
Andrew B. Hall, professeur d'économie politique à Stanford, a exprimé son scepticisme quant à la faisabilité d'une pause mondiale. Il a noté que bien que certains leaders de l'industrie, comme Demis Hassabis de Google DeepMind, pourraient soutenir une telle initiative, la mise en œuvre serait complexe, notamment pour les entreprises basées en Chine ou utilisant des modèles open-source. Hall a partagé ses réflexions sur X, soulignant que l'idée d'une pause mondiale ne semblait plus aussi farfelue qu'auparavant, mais restait difficile à réaliser.
Tae Kim et l'alarmisme d'Anthropic
Le journaliste technologique Tae Kim a accusé Anthropic d'alimenter un alarmisme inutile. Il a critiqué l'entreprise pour sa communication, qui pourrait influencer négativement le commerce de croissance en semant la peur parmi le grand public. Kim a exprimé son mécontentement sur X, exhortant Anthropic à cesser de propager des craintes infondées.
Kylan Gibbs et la régulation avantageuse
Kylan Gibbs, PDG d'Inworld AI, a suggéré qu'Anthropic pourrait chercher à influencer les régulations sur l'IA en sa faveur. En se positionnant comme un acteur responsable, l'entreprise pourrait orienter les régulations futures pour limiter ses rivaux et contrôler les exportations technologiques. Gibbs a expliqué que si Anthropic parvient à convaincre les gouvernements de la dangerosité de l'IA, elle pourrait jouer un rôle clé dans la définition des régulations, ce qui lui donnerait un avantage concurrentiel.
Gary Marcus et la rhétorique d'Anthropic
Gary Marcus, chercheur en IA et professeur émérite à l'Université de New York, a critiqué la proposition d'Anthropic, la qualifiant de rhétorique bien orchestrée pour coïncider avec une introduction en bourse. Il a souligné que l'entreprise ne cherche pas réellement à faire une pause, mais à avancer rapidement tout en se présentant comme prudente. Marcus a partagé ses réflexions sur X, décrivant la suggestion d'Anthropic comme une "pièce de rhétorique sans coût".
Luis Garicano et la menace des poids ouverts
Luis Garicano, professeur à la London School of Economics et ancien membre du Parlement européen, a mis en avant la menace que représentent les poids ouverts pour la rentabilité des modèles de pointe. Selon lui, effrayer le public pourrait pousser à interdire ces poids et à ne permettre que les développeurs jugés de confiance. Garicano a exprimé ses préoccupations sur X, soulignant que la rentabilité des modèles de pointe pourrait être menacée par l'ouverture des poids.
Francesco Bianchi et l'intérêt d'Anthropic
Francesco Bianchi, professeur d'économie et directeur de département à l'Université Johns Hopkins, a exprimé des doutes sur la sincérité de la proposition d'Anthropic, la voyant comme une stratégie pour maintenir le statu quo avantageux pour un leader du marché. Bianchi a partagé ses réflexions sur X, suggérant que le risque pourrait être réel, mais que la proposition d'Anthropic était "très pratique" pour l'entreprise.
Jen Zhu Scott et les besoins d'Anthropic
Enfin, Jen Zhu Scott, cofondatrice et PDG de Power Dynamics, a suggéré qu'Anthropic pourrait être motivée par des contraintes internes, telles que le manque de ressources en calcul et en énergie, pour proposer une pause dans le développement de l'IA. Scott a exprimé ses réflexions sur X, soulignant que l'entreprise pourrait avoir besoin de temps pour renforcer ses capacités avant de poursuivre son développement.
