- Keysight Technologies présente Keysight AI Inference Builder (KAI Inference Builder), une plateforme d’émulation et d’analyse conçue pour valider à grande échelle les infrastructures d’IA optimisées pour l’inférence.
- Cette solution vise à répondre aux défis de validation et d’optimisation des infrastructures d’IA, en particulier dans les environnements de simulation Nvidia DSX Air AI Factory.
- Keysight a fait la démonstration de cette solution lors de la conférence Nvidia GTC, en présentant son fonctionnement au sein des environnements de simulation Nvidia DSX Air AI Factory afin de modéliser et d’optimiser les infrastructures, les architectures et les performances des centres de données d’IA.
Le secteur de l’IA étant passé de la formation de grands modèles linguistiques (LLM) à leur déploiement, l’optimisation de l’inférence est devenue un facteur crucial pour le retour sur investissement. Cependant, le comportement en inférence est extrêmement dynamique et difficile à reproduire. Les méthodes de test traditionnelles, telles que la génération de trafic synthétique ou les benchmarks GPU, ne permettent pas de reproduire avec précision le comportement des charges de travail sensibles à la latence de l’inférence IA à travers les couches de calcul, de réseau, de mémoire, de stockage et de sécurité.
Fonctionnalités de KAI Inference Builder
Avec KAI Inference Builder, il est désormais possible de remédier à cette situation en recréant des modèles de charge de travail d’inférence réalistes et en modélisant des schémas d’utilisation spécifiques à chaque secteur d’activité, afin de valider les infrastructures d’IA, les applications et les déploiements dans les centres de données. La plateforme offre aux fournisseurs de cloud IA, aux fabricants de matériel et aux développeurs d’applications une solution évolutive pour mesurer, valider et optimiser les performances d’inférence en conditions réelles.
Les principaux avantages de KAI Inference Builder sont les suivants :
- Conçu pour l’ère de l’inférence : KAI Inference Builder est conçu pour optimiser les performances, l’évolutivité et la sécurité des déploiements d’IA de bout en bout. Il y parvient en émulant à grande échelle des charges de travail d’inférence d’IA et en validant leur fonctionnement dans des conditions réelles.
- Évaluation comparative ciblée par secteur et application : KAI Inference Builder reproduit des modèles d’utilisation spécifiques et des architectures LLM adaptés aux modèles d’IA employés dans la finance, la santé et d’autres domaines verticaux. Cela permet aux organisations de modéliser et d’analyser précisément le comportement des infrastructures et des applications, quelle que soit la configuration de déploiement des centres de données IA.
- Validation et optimisation de bout en bout : KAI Inference Builder optimise les workflows d’inférence, de la requête utilisateur à la réponse du modèle. Il permet aux équipes de minimiser les reprises coûteuses en identifiant et en corrigeant rapidement les points de friction au niveau des couches de calcul, de réseau et de sécurité.
- Isolation des sous-systèmes et précision quant à la cause première : KAI Inference Builder offre également une fonction d’émulation uniquement côté client. Celle-ci permet d’identifier précisément les goulots d’étranglement de performance au sein de la pile d’infrastructure IA, même en charge. Cette connaissance facilite une optimisation ciblée, ce qui se traduit par une réduction du surprovisionnement, une diminution des coûts et, in fine, une amélioration de l’efficacité globale.
Intégration avec NVIDIA DSX Air
Lors de la NVIDIA GTC (16 au 19 mars 2026 à San José), Keysight a dévoilé l’intégration clé en main de son outil KAI Inference Builder avec NVIDIA Air. Cette solution permet aux opérateurs de centres de données de valider leur infrastructure d’inférence en simulant des charges de travail réalistes dans l’environnement de NVIDIA avant le déploiement physique de l’équipement.
