XCENA lève 135 millions pour révolutionner la mémoire IA

Chaque fois que vous interagissez avec un modèle d'intelligence artificielle tel que ChatGPT, une série complexe de transferts de données est initiée. Ces données quittent la mémoire, passent par un CPU pour le prétraitement, se dirigent vers un GPU pour un calcul intensif, puis reviennent à la mémoire. Ce processus se répète pour chaque mot généré, créant un goulot d'étranglement structurel qui s'appuie sur certaines des puces les plus coûteuses et énergivores de l'industrie.

XCENA, une startup avec des bureaux en Corée du Sud et aux États-Unis, s'efforce de résoudre cette inefficacité. Fondée il y a quatre ans, l'entreprise a développé une puce qui rapproche les capacités de calcul de la mémoire DRAM. Cette approche pourrait éliminer les coûteux allers-retours entre CPU, GPU et mémoire, en traitant les opérations de données courantes près de la mémoire elle-même.

Si cette technologie s'avère efficace à grande échelle, elle pourrait avoir des implications significatives pour les coûts d'infrastructure de l'IA. C'est cette perspective qui a suscité l'enthousiasme des investisseurs, permettant à XCENA de lever 135 millions de dollars lors d'une série B. Avec cette levée, la valorisation de l'entreprise atteint 570 millions de dollars, et le total des fonds levés s'élève désormais à 185 millions de dollars.

Le PDG de XCENA, Jin Kim, qui a cofondé l'entreprise en 2022 avec le CTO Dohun Kim et le CPO Harry Juhyun Kim, tous anciens de Samsung et SK Hynix, a déclaré : "Les CPU et GPU sont devenus plus intelligents au fil des décennies. La mémoire, elle, n'a jamais évolué. XCENA veut changer cela." Il a également souligné que la récente hausse des prix de la mémoire et des actions associées indique un changement plus large dans l'infrastructure de l'IA vers des architectures centrées sur la mémoire. Ce mois-ci, les trois entreprises qui dominent le marché mondial des puces de mémoire — Samsung, SK Hynix et Micron — ont chacune franchi pour la première fois une valorisation d'un trillion de dollars.

XCENA parie sur la thèse selon laquelle "l'inférence n'est pas seulement un problème de calcul ; c'est de plus en plus un problème d'échelle de mémoire," a déclaré Kim. La puce de XCENA, le MX1, se connecte au CPU via CXL (Compute Express Link), traitant les données avant qu'elles ne quittent le module de mémoire. Ce qui nécessitait auparavant 10 serveurs pourrait potentiellement fonctionner sur un seul, réduisant ainsi les coûts d'infrastructure.

Alors que les GPU excellent dans la multiplication matricielle, une grande partie de l'orchestration des données environnantes, y compris le prétraitement et la gestion du cache KV, fonctionne toujours sur des CPU. La puce de XCENA gère ces tâches directement au sein du module de mémoire lui-même.

La demande pour des solutions de mémoire a explosé depuis le second semestre de l'année dernière, et l'entreprise pense que le timing joue en sa faveur. Les discussions avec plusieurs fournisseurs mondiaux de mémoire en sont encore à leurs débuts, bien que Kim ait refusé de les nommer. Les clients idéaux de l'entreprise sont des hyperscalers dépensant des dizaines de milliards par an en infrastructure IA, où même un petit gain en efficacité mémoire peut signifier des centaines de millions d'économies.

Le MX1 est encore un prototype. La production en série des puces est prévue pour sortir des lignes de fonderie de Samsung d'ici la fin de 2026, avec des revenus attendus à partir de 2027.

Alors que les fabricants d'unités de traitement neuronal (NPU) rivalisent pour défier Nvidia sur les charges de travail d'entraînement, XCENA cible la couche intensive en mémoire qui se trouve en dessous de tout cela. Les rivaux les plus proches de XCENA incluent Astera Labs et Marvell, deux entreprises cotées au Nasdaq travaillant sur la connectivité mémoire de nouvelle génération. Marvell est un acteur établi et important déjà actif dans le même domaine, a déclaré Kim, ajoutant que le facteur différenciateur repose sur la propriété intellectuelle. "Nous avons des milliers de cœurs," a déclaré Kim. En se basant sur les spécifications publiques, l'approche de Marvell repose sur quelques cœurs à usage général en comparaison.

Ces cœurs sont construits sur RISC-V — un plan de conception de puces open source — et optimisés spécifiquement pour le traitement des données, chaque cœur étant délibérément maintenu petit et efficace. Au-delà des cœurs eux-mêmes, XCENA conçoit sa propre hiérarchie de mémoire interne, son bus d'interconnexion et son contrôleur DRAM — un niveau d'intégration verticale que la plupart des entreprises de puces, y compris les plus grands concurrents, externalisent généralement.

Les sociétés de capital-risque basées à Séoul, Atinum et IMM Investment, ont co-dirigé le tour de financement de série B, avec Corstone Asia et des investisseurs existants SBI Investment et Mirae Asset Capital. L'entreprise, qui compte plus de 90 employés répartis entre des bureaux à Pangyo, un pôle technologique près de Séoul, et Sunnyvale, est également en pourparlers avec des investisseurs internationaux pour un financement supplémentaire.