La migration d’une infrastructure x86 vers Arm imposait une lourde refonte à Modal. Le résultat change toutefois l’équation : ses environnements d’agents IA atteignent un débit jusqu’à deux fois supérieur, avec un avantage qui s’accentue sous contention.
NVIDIA Vera impose une migration profonde chez Modal
Modal, qui exploitait jusque-là exclusivement des systèmes Intel et AMD, a reçu ses premiers serveurs équipés du CPU Arm de NVIDIA dans ses bureaux de San Francisco. Le changement d’architecture a nécessité d’adapter l’infrastructure ainsi que les systèmes de création d’images conçus autour de x86.
Malgré ce chantier, l’entreprise qualifie Vera d’option « extrêmement convaincante ». Elle mesure un doublement du débit global dans ses sandboxes destinées aux charges agentiques.
Un banc d’essai centré sur la contention
Modal a conçu des charges représentatives et un benchmark baptisé Agentless Agent Bench. Celui-ci regroupe 50 solutions oracle et vérificateurs issus de Terminal-Bench, afin de mesurer à la fois la latence d’exécution séquentielle et le débit en concurrence.
Cette distinction est importante dans les environnements de conteneurs. Augmenter leur densité améliore le nombre de tâches terminées par unité de temps, mais une fois le processeur saturé, la concurrence pour les ressources dégrade généralement la latence individuelle.
Les premiers essais sans charge concurrente montrent déjà des gains face aux plateformes x86, mais restent essentiellement des mesures de latence en ligne droite. Le comportement de Vera devient plus significatif lorsque les tâches s’accumulent.
Jusqu’à deux fois le débit par cœur face au Xeon
Sous charge, Vera fournit jusqu’à 2 fois le débit de tâches par cœur d’un Intel Xeon « Granite Rapids » comparable. D’après Modal, le processeur conserve son rythme à mesure que les travaux s’ajoutent, là où les solutions concurrentes atteignent plus tôt un plateau.
Face à AMD EPYC, l’écart dépasse 6 fois le débit avec 150 conteneurs concurrents et 124 processeurs logiques activés sur chaque système. Cette comparaison reflète un scénario de forte densité, et non les performances générales de ces processeurs sur l’ensemble des usages serveur.
La bande passante mémoire au centre de l’avantage
Modal attribue principalement ces résultats à la bande passante mémoire de Vera. Celle-ci permettrait d’héberger davantage de charges conteneurisées par cœur sans étranglement du CPU, tout en limitant la baisse de performances provoquée par la contention.
Lorsque le nombre de CPU logiques augmente, les plateformes alternatives plafonnent rapidement, tandis que Vera continue de progresser. L’entreprise estime même que le processeur aurait pu être poussé au-delà des limites du nœud mis à sa disposition pour ces mesures.
Ces résultats restent ceux d’un benchmark développé par Modal pour ses propres sandboxes, mais ils illustrent un enjeu concret des infrastructures agentiques : le débit utile sous saturation compte davantage que la seule latence à vide. Si ce comportement se confirme sur d’autres piles logicielles, Arm pourrait gagner du terrain dans les serveurs consacrés aux agents IA, malgré le coût technique d’une sortie de x86.
Source : Wccftech
