Des milliers d’agents peuvent saturer une infrastructure avant même d’exécuter leur première tâche. Dans le test de Daytona, le nouveau CPU de NVIDIA transforme ce démarrage massif en avantage net face aux EPYC Zen 5.
NVIDIA Vera accélère fortement les environnements d’agents IA
Daytona, runtime consacré à l’exécution de code généré par IA et aux workflows d’agents, a comparé Vera aux AMD EPYC 9755 et 9575F. Le protocole applique une même tâche d’agent de programmation à de grandes flottes de sandboxes, chacune disposant de son système de fichiers, de ses dépendances, de son shell et de son environnement de test.
Vera atteint un débit maximal de 13,3 tâches d’agent terminées par seconde. Le processeur met 1 000 sandboxes en ligne en 10,8 secondes, puis 2 000 en 27,4 secondes, tout en restant proche de 13 tâches par seconde au niveau de concurrence maximal.
Un démarrage jusqu’à huit fois plus rapide
L’AMD EPYC 9755 demande 88,4 secondes pour rendre 1 000 sandboxes opérationnelles, soit environ huit fois plus longtemps que Vera. L’EPYC 9575F, favorisé par ses fréquences plus élevées, ramène ce délai à 32,3 secondes, mais reste derrière : Vera démarre 2 000 environnements en moins de temps.
Daytona attribue notamment cet écart aux performances par cœur de l’architecture Arm de NVIDIA. Cette charge ne mesure toutefois pas les qualités générales d’un serveur : elle cible précisément la création rapide d’environnements isolés et leur maintien sous forte concurrence.
Le débit sous charge pèse davantage que le pic
Les deux EPYC suivent des profils différents. L’EPYC 9575F plafonne autour de 8 tâches d’agent par seconde, tandis que l’EPYC 9755 se stabilise autour de 11. Vera monte à 13,3 et conserve un débit voisin de 13 jusqu’à 2 000 sandboxes simultanées.
Vedran Jukić, cofondateur et CTO de Daytona, souligne précisément cette stabilité une fois la machine remplie. Le point déterminant n’est pas seulement le pic, mais la capacité à conserver des milliers d’agents actifs sans effondrement du débit.
Cette densité se répercute sur le dimensionnement. Pour soutenir 1 000 tâches par seconde, Daytona estime que la plateforme Vera nécessite 15 % de machines en moins que l’EPYC 9755 et 38 % de moins que l’EPYC 9575F.
Un avantage potentiel sur le coût d’infrastructure
Réduire le nombre de serveurs peut diminuer la consommation électrique, le refroidissement et les coûts de déploiement, ou permettre un débit supérieur à budget constant. Ces gains de coût total de possession restent néanmoins à confirmer avec les tarifs, la puissance réellement consommée et les configurations complètes des plateformes.
Vera marque ainsi une progression sensible face aux précédents CPU Grace de NVIDIA sur les charges agentiques. AMD dispose désormais de ses EPYC Zen 6, davantage orientés vers ces usages et susceptibles d’obtenir de meilleurs résultats, mais aucune mesure Daytona directement comparable n’est fournie ici.
Ce benchmark illustre surtout le déplacement du goulet d’étranglement : lorsque chaque agent réclame un environnement complet, la vitesse de création des sandboxes et le débit soutenu deviennent aussi importants que le nombre brut de cœurs. Vera prend une avance convaincante sur Zen 5 dans ce scénario précis, mais une comparaison avec Zen 6 et des mesures énergétiques sera nécessaire pour établir sa position réelle en production.
Source : Wccftech
