Le choix d’un accélérateur ne devrait plus condamner toute l’architecture d’un rack IA. Avec Orion, Astera Labs veut permettre aux opérateurs de changer de ressources de calcul au gré des disponibilités et des coûts, sans reprendre l’intégration depuis zéro.
Astera Labs Orion dissocie le rack des puces
Orion est une architecture de référence modulaire à l’échelle du rack, conçue pour laisser aux clients le choix de leurs GPU, accélérateurs et CPU. Astera Labs prévoit de la commercialiser par l’intermédiaire de ses partenaires ODM et OEM, avec les néoclouds et les entreprises comme principales cibles.
L’enjeu concerne surtout l’inférence à grande échelle. Les opérateurs doivent réserver leurs capacités longtemps avant de connaître les accélérateurs réellement disponibles ou économiquement adaptés à leurs charges, tandis que les fabricants répètent les mêmes travaux d’intégration, de validation et de développement logiciel à chaque nouvelle plateforme.
Basé sur des standards ouverts, Orion sépare donc la conception du rack de la sélection des processeurs. Les ressources de calcul prennent place sous forme de cartes PCIe enfichables, afin de faire évoluer les configurations selon le marché et les besoins sans reconstruire l’infrastructure.
Jusqu’à 160 accélérateurs reliés par pod
Au centre du dispositif figure un fabric scale-up standardisé à hautes performances, capable de relier jusqu’à 160 accélérateurs par pod. Astera Labs promet des communications prévisibles à faible latence ainsi qu’une capacité mémoire étendue entre les racks et les pods.
La connectivité PCIe optimisée et l’infrastructure composable doivent aussi augmenter le nombre de tokens générés par seconde lors des tâches d’inférence. Le constructeur replace ainsi la rentabilité du déploiement autour du débit utile plutôt que du seul choix du matériel.
Une architecture livrée avec son orchestration
La conception de référence couvre les configurations du plateau de calcul, du plateau fabric, du plateau mémoire, de la carte de liaison et de la carte de calcul. L’ensemble s’intègre aux logiciels COSMOS Rack Manager et COSMOS Fabric Manager, chargés de l’administration, de la télémétrie à l’échelle du parc, des diagnostics et de l’exploitation des données d’infrastructure.
Pravin Patel, vice-président et directeur général de l’AI Platform Solutions Group chez Astera Labs, estime que les fournisseurs de cloud d’inférence seront désormais jugés sur les tokens délivrés par dollar plutôt que sur le matériel installé. Orion doit leur permettre d’ajouter rapidement de la capacité, de proposer une tarification fondée sur les résultats et d’adapter leurs plateformes aux évolutions du calcul.
Une disponibilité prévue au premier trimestre 2027
Les conceptions de racks et de systèmes Orion doivent être proposées par les partenaires OEM et ODM d’Astera Labs à partir du 1er trimestre 2027. Un rack fonctionnel sera présenté lors de l’Open Compute Project Global Summit 2026, organisé du 12 au 15 octobre à San José, en Californie.
Cette démonstration réunira plusieurs plateaux de calcul interchangeables et prévalidés, avec différentes associations de CPU et d’accélérateurs. Le calendrier laisse toutefois encore du temps aux autres architectures ouvertes et aux solutions propriétaires pour évoluer avant une disponibilité commerciale effective.
Orion répond à un risque devenu central pour les opérateurs : immobiliser un investissement lourd autour d’une puce dont le prix ou la disponibilité peuvent rapidement changer. Son intérêt dépendra néanmoins de la qualité des validations menées avec les partenaires, car l’interchangeabilité physique ne garantit ni des performances homogènes ni une exploitation logicielle réellement transparente.
Source : Astera Labs
