Google Frozen v2 : la puce qui défie OpenAI et Anthropic

Google Frozen v2 : la puce qui défie OpenAI et Anthropic

La puce "Frozen v2" de Google intègre apparemment l'architecture du modèle Gemini directement dans le silicium pour des gains d'efficacité.

Google développe une nouvelle puce serveur en interne, appelée "Frozen v2", qui intègre l'architecture du modèle d'IA Gemini directement dans le silicium. Selon des sources citées par The Information, cette puce pourrait être 6 à 10 fois plus efficace pour fournir des réponses d'IA que les puces TPU actuelles de Google. Google prévoit de la déployer à partir de 2028 et considère Frozen v2 comme un test pour des puces spécialisées, avec un volume de production plus réduit que sa gamme TPU.

Contrairement aux TPU de Google, qui fonctionnent avec de nombreux modèles, Frozen v2 a des parties de la structure du modèle Gemini intégrées directement dans le matériel. Le nom suit la même logique que le "gel" des paramètres dans les modèles d'IA, où vous verrouillez des valeurs pour qu'elles cessent de changer. Avec Frozen v2, une partie du modèle est définitivement intégrée dans la puce elle-même, ce qui réduit les étapes de calcul et accélère les réponses.

L'idée originale viendrait de Jeff Dean, le scientifique en chef de Google DeepMind. Son premier design Frozen prévoyait d'intégrer directement les poids du modèle dans la puce. Les poids sont les réglages spécifiques qui déterminent comment un modèle d'IA répond aux requêtes. Google a abandonné cette approche car la puce n'aurait fonctionné qu'avec une seule version de Gemini et serait devenue obsolète trop rapidement.

Frozen v2 adopte une approche plus flexible en intégrant l'architecture du modèle plutôt que les poids, signifiant le plan sous-jacent plutôt que les paramètres ajustés. De nouveaux poids peuvent toujours être chargés sur la puce. La quantité d'architecture qui sera réellement codée en dur n'a pas encore été décidée, selon The Information.

Optimiser les marges sur l'inférence IA

Étant donné que la puce ne fonctionne que tant que Google reste fidèle à la même architecture de modèle, elle ne deviendra probablement pas un produit pour des clients externes. Google loue déjà ses TPU à Meta, les propose à des clients cloud externes, et les positionne à travers son programme "TPU@Premises" comme une alternative à Nvidia, avec un objectif interne de capturer dix pour cent des revenus annuels de Nvidia. En revanche, Frozen v2 est destinée à alléger la pression interne de Google sur la capacité de calcul IA.

Si la puce tient ses promesses, elle pourrait néanmoins devenir un atout concurrentiel majeur. Dans le secteur de l'IA, la manière dont les entreprises optimisent les coûts d'inférence détermine de plus en plus leurs marges. Google pourrait utiliser Frozen v2 pour faire fonctionner des modèles puissants à des prix plus bas et prendre des parts de marché à OpenAI et Anthropic.