Cette start-up coréenne va casser les prix de l'IA en s'attaquant à la consommation monstre des racks NVIDIA

Cette start-up coréenne va casser les prix de l'IA en s'attaquant à la consommation monstre des rack

Rebellions a levé 400 millions de dollars en pré-IPO fin mars et lancé deux systèmes d'inférence au format rack. La start-up de Séoul promet une consommation divisée par six et un coût d'acquisition jusqu'à 75 % inférieur aux GPU Nvidia, sur du matériel compatible avec les datacenters existants, sans refroidissement liquide.

Avec un châssis 19 pouces et le refroidissement à air, le RebelRack tient dans n'importe quelle salle serveurs standard. Selon Sunghyun Park, cofondateur et PDG de Rebellions, « l'IA se mesure désormais à sa capacité à opérer dans le monde réel, à grande échelle, sous contraintes énergétiques et avec un retour sur investissement clair ». La start-up coréenne, fondée en 2020, sort le RebelRack et le RebelPOD au moment où les opérateurs de datacenters butent de plus en plus sur les limites d'alimentation électrique et de capacité d'infrastructure.

Des racks compatibles avec les salles serveurs classiques

Le RebelRack groupe quatre nœuds de huit cartes chacun, soit 32 accélérateurs Rebel100 au total, pour 64 pétaFLOPS en FP8 et 153,6 téraoctets par seconde de bande passante mémoire agrégée. Chaque carte affiche un TDP de 600 W en format PCIe. Le RebelPOD monte en cluster de 8 à 128 nœuds, interconnectés en Ethernet 800 Gbps.

Avec un châssis 19 pouces et le refroidissement à air, le RebelRack tient dans n'importe quelle salle serveurs standard, là où les GPU Rubin d'NVIDIA ont besoin du refroidissement liquide, une infrastructure absente de la majorité des datacenters d'entreprise existants. Marshall Choy, directeur commercial de Rebellions, a déclaré à notre confrère The Register que quiconque a déjà travaillé avec vLLM, PyTorch ou Red Hat OpenShift sait déjà utiliser la plateforme. Tout le stack est open source, de vLLM jusqu'à OpenShift. Rebellions est par ailleurs membre de la PyTorch Foundation, et dans le petit monde très fermé des start-up de puces d'IA, c'est plutôt rare.

Un Samsung et SK Hynix, deux fournisseurs de choix

Le Rebel100 est une architecture chiplet en quatre dies de calcul, fabriqués et packagés par Samsung via son procédé SF4X, alimentés par 144 Go de mémoire HBM3e pour 4,8 To/s de bande passante par puce, avec interconnexion UCIe-Advanced. Samsung et SK Hynix sont les deux plus grands fournisseurs de HBM au monde, et Rebellions a les deux au capital. Actuellement approvisionné en HBM chez Samsung, Rebellions peut basculer sur SK Hynix sans friction particulière, selon The Register.

Sur le réseau d'interconnexion, les systèmes HGX d'Nvidia alignent un NIC 800 Gbps par GPU, contre un seul par nœud chez Rebellions aujourd'hui. Marshall Choy a déclaré à The Register que le fabric réseau sera un chantier prioritaire. « En ce moment, les gens pensent au niveau du rack. Dans peu de temps, on va penser au niveau de la rangée, puis du datacenter entier », a-t-il ajouté.

La ronde de 400 millions, menée par Mirae Asset Financial Group et le Fonds national de croissance de Corée, porte le total levé à 850 millions depuis la création, pour une valorisation de 2,34 milliards de dollars. Rebellions a ouvert des bureaux au Japon, en Arabie Saoudite, à Taïwan et aux États-Unis. Un dépôt d'IPO, avec JPMorgan comme banquier mandaté, est visé avant fin 2026 ou début 2027.