- Keysight Technologies propose la solution logicielle AI Software Integrity Builder, visant à transformer la façon dont les systèmes intégrant l’IA sont validés et entretenus afin de garantir leur fiabilité.
- Cette solution entend offrir une assurance IA transparente, adaptable et basée sur les données pour les environnements critiques en matière de sécurité, comme l’automobile.
Les systèmes IA fonctionnent comme des entités complexes et dynamiques, mais leurs processus de décision internes restent souvent opaques. Ce manque de transparence crée des problématiques spécifiques pour les secteurs, tels que l’automobile, qui doivent démontrer la sécurité, la fiabilité et la conformité réglementaire. Les développeurs peinent à diagnostiquer les limites des ensembles de données ou des modèles, tandis que les normes émergentes, telles que ISO/PAS 8800 pour l’automobile et l’Acte européen sur l’IA, exigent l’applicabilité et la validation sans prescrire de méthodes claires. Des chaînes d’outils fragmentées compliquent encore les flux de travail d’ingénierie et augmentent le risque de lacunes de conformité.
Un cadre unifié pour la validation de l’IA
Keysight AI Software Integrity Builder introduit un cadre unifié, basé sur le cycle de vie, qui répond à la question déterminante : « Que se passe-t-il à l’intérieur du système d’IA, et comment puis-je garantir qu’il se comporte en toute sécurité lors du déploiement ? » La solution vise à fournir aux équipes d’ingénierie les preuves nécessaires pour la conformité réglementaire et permet l’amélioration continue des modèles d’IA. Contrairement aux chaînes d’outils fragmentées qui traitent des aspects isolés des tests d’IA, l’approche intégrée de Keysight couvre l’analyse des ensembles de données, la validation des modèles, les tests d’inférence en conditions réelles et la surveillance continue.
Principales fonctionnalités de Keysight AI Software Integrity Builder
- Analyse des jeux de données : Permet d’analyser la qualité des données à l’aide de méthodes statistiques pour détecter les biais, les lacunes et les incohérences qui pourraient affecter la performance du modèle.
- Validation basée sur le modèle : Permet d’expliquer les décisions du modèle et révéler les corrélations cachées, permettant aux développeurs de comprendre les schémas et les limites d’un système d’IA.
- Tests basés sur l’inférence : Permet d’évaluer le comportement des modèles dans des conditions réelles, détecter les écarts par rapport au comportement d’entraînement et recommander des améliorations pour les itérations futures.
Selon Keysight, alors que les outils open source et les solutions de fournisseurs n’abordent généralement que des aspects isolés des tests d’IA, sa solution entend combler le fossé entre la formation et le déploiement. Cette solution valide non seulement ce qu’un modèle a appris, mais aussi ses performances dans des scénarios opérationnels, un prérequis essentiel pour les applications à haut risque comme la conduite autonome.
