Dean Ball sur les modèles ouverts et le contrôle gouvernemental

Dean Ball sur les modèles ouverts et le contrôle gouvernemental

Il est évident que l'histoire qui se déroule entre Anthropic et le Department of War (DoW) pourrait marquer un tournant majeur dans les perspectives sur les modèles ouverts, mais cela prendra des années avant d'être évident. À mesure que l'IA devient plus puissante, les structures de pouvoir existantes devront se confronter à leurs rôles par rapport aux entreprises en place. Certains dans le domaine des modèles ouverts le présentent comme « pas vos poids, pas votre esprit », mais cela soulève un problème beaucoup plus vaste lorsque les gouvernements en prennent conscience. Si l'IA est la technologie la plus puissante, pourquoi un organisme mondial laisserait-il une seule entreprise (ou gouvernement) américaine contrôler sa relation avec elle ?

J'ai eu l'occasion de discuter de ce sujet lors d'un live hebdomadaire sur Substack. En fin de compte, nous convenons que les actions récentes du DoW — en particulier la désignation d'Anthropic comme un risque pour la chaîne d'approvisionnement (avec laquelle Dean et moi sommes tous deux en désaccord) — indiquent que les modèles ouverts pourraient représenter un équilibre stable pour les centres de pouvoir sur une période de 5 à 10 ans.

Questions de discussion

Les points de cette discussion sont les suivants :

• Pourquoi les modèles ouverts évitent-ils certains des conflits de pouvoir que nous avons observés la semaine dernière ?
• Comment pouvons-nous surmonter les obstacles à court terme pour les modèles ouverts afin de renforcer leur position à long terme ?
• Quel est l'équilibre général des capacités entre les modèles ouverts et fermés ?

Personnellement, je ressens plus que jamais le besoin de développer des modèles ouverts et je suis heureux de voir de plus en plus de parties prenantes s'en rendre compte. Ce que je ne sais pas, c'est comment financer et organiser cela. La stratégie de commoditisation de ses compléments est valide, mais elle commence à se fissurer lorsque les modèles d'IA coûtent plus près d'un trillion de dollars que de cent millions. Avec la difficulté de monétiser les modèles ouverts, il y a un chemin semé d'embûches à parcourir pour déterminer qui construira ces modèles face à une véritable croissance commerciale ailleurs dans la pile d'IA.

Chapitres de l'interview

• 00:00 Intro : la désignation de risque pour la chaîne d'approvisionnement d'Anthropic est-elle bonne ou mauvaise pour les modèles ouverts ?
• 04:03 Financer les modèles ouverts et l'écart croissant des frontières
• 12:33 IA souveraine et demande mondiale d'alternatives
• 20:55 Écosystème des modèles ouverts : Qwen, utilisabilité et perspectives à court terme
• 28:20 Pouvoir gouvernemental, risque de nationalisation et financiarisation du calcul

Transcription

00:00:00 Nathan Lambert : D'accord. Nous sommes en direct et les gens vont commencer à nous rejoindre. Je suis très heureux de retrouver Dean. Je pense qu'en mettant cela en place, les nouvelles concernant la désignation officielle de risque pour la chaîne d'approvisionnement ont commencé à éclater. Ce n'est pas une réaction en direct à cela. Si nous recevons des nouvelles vraiment intéressantes, nous en parlerons. Je pense qu'un des sous-entendus que j'ai ressentis cette semaine, où tout s'est passé, va toucher aux modèles ouverts, mais il n'y a pas d'angle évident. Je vais commencer par poser la question à Dean : comment... Il y a deux aspects aux modèles ouverts. L'un est le cliché « pas mes poids, pas votre poids, pas votre esprit », où quelqu'un pourrait les retirer s'il ne s'agit pas d'un modèle ouvert, ce que les gens soulignent en disant : « Oh, Anthropic va retirer leur intelligence. » Mais l'autre côté concerne les inquiétudes des gens quant à l'existence de modèles ouverts que le DoW peut simplement prendre et utiliser à sa guise. Je sens que les deux sont un peu clichés. La question centrale est : un événement de ce type, où un contrôle accru est exercé sur l'IA et où plusieurs parties sont intéressées, sera-t-il bon ou mauvais pour l'écosystème des modèles à poids ouverts ?

00:01:12 Dean Ball : Mon avis est qu'à long terme, cela sera probablement profondément bénéfique pour l'IA à poids ouverts. Et la raison pour laquelle je me suis intéressé à cela, c'est que cela m'est immédiatement apparu comme un problème de gouvernance de l'IA de pointe. J'ai fait quelque chose de totalement différent auparavant. J'ai écrit sur différents types de politiques et étudié divers types de politiques. La raison pour laquelle je me suis engagé dans ce domaine est que je me suis dit que le gouvernement allait... Je me suis dit, d'accord, supposons que nous construisions une super intelligence bientôt ou quoi que ce soit, comme une IA très avancée qui semble vraiment importante et puissante. Cela va être quelque chose dont je vais dépendre dans ma vie quotidienne. J'en aurai besoin pour toutes sortes de choses. Cela va profondément impliquer ma liberté d'expression en tant qu'Américain et l'exercice de ma liberté, et tout cela. Et pourtant, cela va également avoir des implications profondes pour la sécurité nationale. Donc, le gouvernement va être impliqué, et il se peut qu'il n'aime pas que je l'utilise parce que je pourrais l'utiliser, et d'autres pourraient l'utiliser pour contester le statu quo de diverses manières, pour défier les structures de pouvoir existantes dont le gouvernement fait partie. Nous avons donc un problème politique entre les mains, à mon avis.

00:02:36 Dean Ball : Il m'est immédiatement apparu que nous allions avoir ce grand problème, car cela va être un conflit, car cela va énormément impliquer la parole et la liberté des Américains, et cela va également soulever des questions légitimes de sécurité nationale.