L’adoption de l’intelligence artificielle s’accélère dans l’ensemble de l’économie et de la société européennes, rendant plus urgente que jamais la question de la confiance dans les systèmes d’IA. Les organisations ne peuvent tirer pleinement parti de l’IA que si les utilisateurs lui font confiance : lorsque ces derniers doutent de chaque résultat ou évitent l’IA, les gains escomptés ne se matérialisent pas. Le règlement européen sur l’IA (AI Act) et d’autres réglementations imposent également des obligations claires aux fournisseurs d’IA en matière de démonstration de fiabilité. Satisfaire à ces exigences demeure aujourd’hui un processus lent, coûteux et largement manuel. L’AI Assessment Sandbox Configurator vise à supprimer ces obstacles et à permettre des tests rigoureux de l’IA à grande échelle, pour le nombre croissant d’agents IA déployés par les organisations.
Des environnements de test IA personnalisés pour les secteurs public et privé
Garantir la fiabilité d’un outil d’IA et sa conformité réglementaire implique de traduire des exigences politiques en contrôles et indicateurs, d’identifier les tests disponibles, de les intégrer, de restituer les résultats et de préparer les audits. Ce processus demeure minutieux et largement manuel. L’AI Assessment Sandbox Configurator, disponible en open source, permet à toute organisation publique ou privée d’accélérer la création d’environnements de test IA personnalisés, déployables partout (en local, sur des clouds privés ou souverains) ce qui le rend adapté aux organisations soumises à des exigences strictes en matière de résidence des données ou de sécurité, comme les établissements financiers.
Grâce à l’AI Assessment Sandbox Configurator, les utilisateurs accèdent à un catalogue sélectionné et extensible de tests, de contrôles et de jeux de données, parmi lesquels ils peuvent choisir ceux qui correspondent aux exigences de leur cas d’usage. L’outil génère ensuite un environnement de test personnalisé, comprenant un tableau de bord collaboratif pour visualiser et évaluer les résultats, un générateur de rapports et des preuves inaltérables à des fins d’audit.
L’outil s’adresse à toute organisation (grandes entreprises, institutions publiques, start-ups et PME) souhaitant déployer l’IA de manière responsable, en collaboration avec les autorités compétentes et les organismes notifiés.
Le fruit de plusieurs années d’expérience concrète en matière de tests IA
Le Configurator s’inscrit dans la continuité naturelle des travaux du SnT et du LIST en matière d’évaluation de l’IA.
Pour le SnT de l’Université du Luxembourg, le Configurator s’appuie sur près d’une décennie de partenariats de recherche approfondis avec le secteur privé et le secteur public. Ces collaborations ont donné lieu à des publications dans des revues et conférences scientifiques classées parmi les 10 % les plus influentes au monde dans le domaine de l’IA. Depuis un premier partenariat avec BGL BNP Paribas en 2017, SnT a également collaboré avec Spuerkeess, le ministère luxembourgeois de la Digitalisation et, plus récemment, avec le Mécanisme européen de stabilité (MES). L’équipe de recherche travaille actuellement avec la Banque nationale de Grèce dans le cadre d’un projet Horizon Europe visant à évaluer certains systèmes d’IA. Cette expérience industrielle a nourri la conception de l’outil AI Sandbox.
Maxime Cordy, assistant professeur en génie logiciel pour les systèmes IA et chef de projet SnT, déclare: « Dans notre travail avec les partenaires, nous avons été confrontés de première main au défi d’intégrer des technologies de pointe dans des opérations métier critiques. Cela nous a permis de mener des recherches scientifiques de rupture et, ce faisant, de comprendre que nous pouvions mettre notre expertise au service d’un outil open source facilitant l’adoption de l’IA. L’adoption de l’IA exige à la fois rapidité et maîtrise : l’AI Assessment Sandbox Configurator permet aux organisations d’intégrer l’IA dans leurs processus de manière fiable, les soutenant ainsi dans leur compétitivité mondiale. »
Depuis plusieurs années, le LIST opère sa propre AI Sandbox, un environnement de test concret permettant aux organisations d’évaluer des modèles d’IA sous l’angle de la robustesse, de l’équité, des biais et de la conformité réglementaire. Cette Sandbox a déjà été mise en oeuvre avec des organisations telles que la Banque Internationale à Luxembourg, la Ville de Luxembourg et Mistral AI.
Francesco Ferrero, Leader de l’initiative sur l’intelligence artificielle et responsable de l’unité de recherche Human-Centred AI, Data and Software au LIST, indique: « Avec la LIST AI Sandbox, nous avons démontré qu’une évaluation rigoureuse et indépendante de l’IA était réalisable en pratique. Le Configurator en est la suite logique : il conditionne cette expertise dans un outil ouvert, permettant à n’importe quelle organisation, où qu’elle se trouve, de déployer son propre environnement d’évaluation sans repartir de zéro. »
Made in Luxembourg, conçu pour la souveraineté européenne
La Luxembourg AI Factory voit dans le Configurator le fondement d’un projet plus ambitieux : une ressource européenne partagée, co-développée par des régulateurs, des chercheurs, des organismes de certification et des entreprises issus de différents États membres. L’outil positionne également le Luxembourg comme un hub pour les entreprises internationales, notamment dans des secteurs comme la finance, souhaitant déployer des systèmes d’IA en Europe dans un environnement de confiance et souverain.
À terme, la bibliothèque de tests et de contrôles devrait s’étendre à des offres spécialisées pour des secteurs tels que la santé, la finance, l’industrie manufacturière et d’autres encore. Plusieurs projets pilotes sont déjà en cours à travers l’Europe, et les recherches sous-jacentes ont été publiées dans plusieurs articles scientifiques évalués par des pairs.
Stefano Pozzi Mucelli, Head of Ecosystem Innovation Projects chez Luxinnovation, conclut: « L’adoption de l’IA ne crée de valeur que lorsque les systèmes d’IA inspirent confiance. L’AI Assessment Sandbox Configurator s’inscrit naturellement dans le catalogue de services de la Luxembourg AI Factory : alors que nos services accompagnent déjà les entreprises de l’évaluation jusqu’au déploiement, cet outil permet à toute organisation de traduire les exigences réglementaires en indicateurs d’évaluation concrets et de générer des rapports prêts pour l’audit sur sa propre infrastructure. Il nous permet de mieux servir des entreprises de toutes tailles, des PME aux grandes entreprises, en rendant la fiabilité pratique plutôt que théorique. C’est ainsi que le Luxembourg se positionne en tête de l’IA en Europe : en traitant la confiance non pas comme un obstacle, mais comme le levier qui permet à l’innovation en matière d’IA d’atteindre le marché et ses utilisateurs. »
L'outil est disponible sur le site web de Luxembourg AI Factory et sur GitHub
