Publication de lignes directrices sur la cybersécurité des systèmes d’IA
Fin novembre 2023, 18 agences nationales de cybersécurité (dont l’ANSSI) ont publié leurs lignes directrices destinées aux fournisseurs de systèmes utilisant de l’Intelligence Artificielle. Ces lignes directrices visent à instaurer une approche de la cybersécurité, par phase de vie des systèmes : conception, développement, déploiement, fonctionnement et maintenance.
On remarque que la Chine est ne figure pas parmi les signataires.
L’IA et la cybersécurité sont intrinsèquement liées. Si l’application de l’intelligence artificielle renforce la sécurité, la prolifération des systèmes d’IA agrandit la surface d’attaque en créant de nouvelles vulnérabilités. Les lignes directrices mettent en lumière ces nouveaux risques et appellent à une vigilance accrue.
Quelques recommandations clés émergent de ces lignes directrices :
– Sensibilisation du personnel : former le personnel aux menaces et risques potentiels liés à l’IA.
– Sécurisation de la chaîne d’approvisionnement : protéger les infrastructures et les approvisionnements pour renforcer la résilience.
– Élaboration de procédures de gestion des incidents : se préparer à répondre efficacement aux incidents de cybersécurité.
– Surveillance continue du système : observer le comportement du système tout au long de son utilisation pour détecter rapidement toute activité suspecte.
Cette approche par phase rejoint les recommandations de la CNIL, qui avait différencié ces mêmes phases dans ses fiches sur l’IA. Parallèlement, les travaux du CEN-CENELEC sur la cybersécurité de l’IA, dans le cadre de la requête de standardisation de l’AI Act, ont également été initiés.
Guidelines for secure AI system development
Article co-écrit avec les membres du groupe de travail IA Act de l’association HUB France IA
