Enjeux sécurité de l’IA dans les machines

Cet article décrit l’impact potentiel des Intelligences Artificielles (IA) dans les machines lors de leur conception et de leur usage. Dans le contexte des machines, seul le Machine Learning (ML) – branche de l’IA qui comprend les algorithmes d’apprentissage autonome – est considéré. L’usage du ML dans le système de contrôle/commande d’une machine est dénommé « Learned Automation » (LA). Cet article détaille les quatre principales spécificités du LA que sont : (i) Les performances et l’optimisation du contrôle/commande, (ii) la robustesse du contrôle/commande, (iii) le déterminisme et (iv) l’opacité et l’explicabilité des comportements de la machine. Les conséquences de ces spécificités sont décrites sous l’angle de la localisation de l’algorithme de ML dans le contrôle/commande. Une nouvelle organisation – spécifique au LA - des tâches de conception et d’utilisation de ces machines est abordée.
Enfin, les conséquences du LA sur la sécurité sont décrites d’un point de vue technique, organisationnel et fonctionnel. De plus, la couverture réglementaire Européenne du LA (proposition : « Artificial intelligence act » et la proposition de révision de la directive « Machines » 2006/42/CE) est évaluée.