Comment une IA fonctionnelle peut-elle être intégrée sans risque dans une machine ?

L'intégration de l'apprentissage automatique dans un automatisme apporte de nouvelles capacités mais aussi de nouvelles contraintes aux machines. En 2021, lors de la conférence SIAS, la communication intitulée « AI algorithms within machinery : Safety issues » présentait les caractéristiques de l’automatisme appris (LA). Basé sur ces caractéristiques, sur les travaux menés depuis et grâce à un cas d’usage concret, cette communication fournira un guide à destination des concepteurs de machines, des intégrateurs et des utilisateurs finaux de ce type d’automatisme.
Les processus de conception et d'utilisation de l'automatisme appris seront développés comme suit :
i. analyse du besoin (comment s'assurer que l'automatisation apprise est la bonne solution pour résoudre le problème),
ii. preuve de concept et choix de la solution technique (comment tester et valider le système d'automatisme appris avant de le construire),
iii. la phase du cycle de vie de la machine liée à la création d'une banque de données (comment créer en toute sécurité une banque de données d'apprentissage automatique),
iv. le mode de fonctionnement "apprentissage" (comment mettre en œuvre une fonction d'apprentissage dans la machine dans le cadre de la programmation de celle-ci),
v. l'analyse et la validation des performances (comment mesurer et analyser les performances de l'algorithme),
vi. la maintenance (comment vérifier le système LA),
vii. la documentation technique (comment expliquer l'utilisation du système LA aux opérateurs et au personnel de maintenance).
Un procédé en ligne de contrôle de la qualité de produits naturels (tels que les fruits ou les planches de bois) servira d'exemple pour le processus d'intégration de la conception et de la sécurité ; des conseils et des bonnes pratiques pour la maintenance et l'exploitation seront également fournis. Un accent particulier sera mis sur l'étude et la réalisation de l'interface homme/machine (avec l'automatisation apprise). Cette interface est un facteur clé du succès de l'intégration de la sécurité.
De nos jours, les techniques d'apprentissage n'intègrent pas directement des fonctions de sécurité, mais elles peuvent avoir un impact indirect sur la sécurité des opérateurs.
L'ensemble de la démarche est orienté vers la prévention des risques professionnels liés aux machines. En d'autres termes, quels sont les impacts sur la sécurité de l'automatisme appris par rapport à l'automatisme conventionnel ?