Sam Altman alerte sur le monopole de l'IA par quelques firmes

Sam Altman et l'ombre de l'autoritarisme de l'IA

Sam Altman, le PDG d'OpenAI, a récemment exprimé une inquiétude majeure concernant l'avenir de l'intelligence artificielle. Il redoute ce qu'il appelle "l'autoritarisme de l'IA", une situation où un nombre restreint d'entreprises ou de pays contrôlerait l'accès à cette technologie révolutionnaire. Selon Altman, ce scénario pourrait avoir des conséquences néfastes sur l'innovation et la liberté.

La question de l'accès à l'IA a été ravivée par la récente mise sur le marché de Kimi K3, un modèle d'IA open-source développé en Chine. Pour Altman, le véritable danger ne réside pas dans la puissance intrinsèque de l'IA, mais dans la possibilité qu'une seule entité en détienne le contrôle exclusif. "Le véritable enjeu aujourd'hui est de savoir si nous allons vers un monde dominé par l'autoritarisme de l'IA ou vers un monde de liberté", a-t-il déclaré lors d'une intervention dans le podcast "Relentless".

Altman a également souligné que l'histoire a montré que chaque fois que l'humanité a sacrifié sa liberté pour plus de sécurité, le bilan à long terme a été négatif. Il prône une approche où la technologie est mise à la disposition de tous, permettant à la société de s'exprimer et d'utiliser l'IA selon ses propres termes.

OpenAI : entre contrôle et ouverture

Ces déclarations sont d'autant plus frappantes venant d'Altman, à la tête d'OpenAI, une entreprise qui fait partie des rares à détenir des modèles d'IA parmi les plus avancés au monde. OpenAI, contrairement à certains de ses concurrents, ne partage pas ses technologies en open-source, ce qui soulève des questions sur sa propre position par rapport à la transparence et au partage des connaissances.

Les propos d'Altman interviennent dans un contexte de débat intense à Silicon Valley et à Washington sur la transparence des technologies d'IA. La sortie de Kimi K3 a provoqué des réactions mitigées, certains responsables américains appelant à limiter l'accès aux modèles chinois, tandis que des investisseurs et des entrepreneurs craignent que cela ne nuise à la compétitivité mondiale.

La bataille pour l'accès à l'IA

Au-delà de la simple question d'accès aux modèles, les États-Unis ont déjà mis en place des contrôles à l'exportation qui déterminent quels pays et quelles entreprises peuvent accéder aux technologies de pointe, notamment les puces et les capacités de calcul nécessaires au développement de l'IA. Cette situation confère à Washington un pouvoir considérable sur le développement de l'intelligence artificielle à l'échelle mondiale.

Des entreprises technologiques majeures telles que Microsoft, Meta, Nvidia, OpenAI, et Google ont signé une lettre adressée aux autorités américaines, les exhortant à ne pas restreindre l'accès à l'IA open-source. Cependant, Anthropic, un acteur majeur du secteur et concurrent direct d'OpenAI, n'a pas soutenu cette initiative. Anthropic prône une approche plus prudente, estimant que des modèles de plus en plus puissants nécessitent des mesures de sécurité renforcées et un contrôle accru.

Prévenir la concentration du pouvoir

Pour Altman, empêcher une concentration excessive du pouvoir est une priorité depuis longtemps. Bien que son entreprise ne partage pas ses modèles, il reste convaincu que l'intelligence artificielle peut générer une prospérité humaine sans précédent, à condition d'éviter une concentration du pouvoir et l'émergence d'un nouvel autoritarisme. "Depuis des années, je me concentre sur cet objectif d'intelligence abondante, convaincu qu'il peut en découler une prospérité incroyable, tant que nous évitons une concentration étrange du pouvoir", a-t-il conclu.