Les analyses de sûreté des logiciels imposent de connaitre leurs algorithmes, tandis que les modèles de Machine Learning (ML) restent des « boîtes noires » logicielles. Une approche permet toutefois d’assurer les exigences de sûreté tout en bénéficiant des avancés dans l’Intelligence Artificielle.
Le principe : associer un modèle ML à un contrôleur de sécurité indépendant. Le ML propose une solution (par exemple à la détection qu’une voie ferrée est libre sur la base d’images), et le contrôleur en vérifiera la conformité aux règles de sécurité (géométrie des rails, écartement, parallélisme, courbure, etc.).
La sûreté repose ainsi uniquement sur le contrôleur, évitant de devoir justifier le fonctionnement interne du modèle de Machine Learning. Une preuve de concept basée sur un modèle U-NET démontre la pertinence et la fiabilité de cette approche.
Cette combinaison ouvre la voie à l’usage de l’Intelligence Artificielle dans des fonctions ferroviaires critiques, tout en respectant les plus hauts niveaux de sécurité.
Mr Frédéric HENON (UIC) France a présenté ces travaux à la conférence : « 12th UIC WORLD CONGRESS ON HIGH-SPEED RAIL » du 8-11 July 2025 – Beijing, China.
Cette étude a été menée par CLEARSY sous la direction du département Exploitation et Sécurité de l’Union Internationale des Chemins de fer UIC.
La présentation est accessible ici : 12WCHSR_NMSD_FH_final_20