L’indispensable encadrement de l’IA et des algorithmes : la CNIL à la croisée des chemins

Un dispositif renforcé pour accompagner l’essor de l’IA

La CNIL s’est dotée d’un service transversal, réuni sous une organisation dédiée à la question de l’IA. Ce pôle stratégique combine expertise technique et juridique afin d’apporter des réponses adaptées aux multiples enjeux soulevés par l’IA. Que ce soit dans des secteurs aussi variés que la santé, la sécurité sociale ou les ressources humaines, la CNIL déploie des outils d’audit, propose des recommandations et s’assure de l’impact des nouvelles technologies sur la protection des données personnelles. Son rôle est aussi de suivre de près les évolutions législatives et technologiques à l’échelle européenne et internationale, une mission renforcée avec la création du Règlement Européen sur l’IA (RIA), dont l’application se profile pour 2025.

Un règlement européen et un cadre national pour une IA de confiance

Le RIA classe les systèmes d’IA en quatre niveaux de risque, allant du plus faible au plus élevé, ce qui permet d’adapter les mesures en fonction de la dangerosité de l’application. Par exemple, certaines pratiques telles que la notation sociale, qui porte atteinte à la dignité humaine, seront proscrites à compter de février 2025. Ce cadre législatif, complémentaire au RGPD, a pour objectif de garantir une IA éthique, tout en maintenant une gouvernance partagée entre l’Europe et les États membres. En France, il est envisagé que la CNIL, en raison de son expertise en matière de protection des données, joue un rôle clé dans la surveillance de ce nouveau cadre, en collaboration avec un Comité Européen de l’IA.

Les IA génératives : entre innovation et encadrement

L’IA générative, qui permet de créer des textes, images, vidéos, voire des musiques de manière automatisée, représente un des défis majeurs pour les régulateurs. Afin de mieux encadrer cette technologie, la CNIL a publié une série de recommandations détaillées sur son utilisation, notamment dans les domaines de l’aide à la rédaction ou de la prise de décision. L’accent est mis sur le respect des droits des utilisateurs et sur la sécurité des systèmes, en appelant à une gouvernance rigoureuse et à une sensibilisation accrue des utilisateurs.

L’IA, vecteur d’éducation et de sensibilisation auprès du grand public

En complément de son rôle de régulateur, la CNIL mène également des actions de sensibilisation du public, comme le montre l’opération « Germain », menée à La Roche-sur-Yon en janvier 2024.

Cette expérience ludique consistait à faire interagir les passants avec un faux assistant vocal, les incitant à partager des données personnelles, avant de leur révéler qu’ils avaient été manipulés.

L’objectif était de mettre en lumière le manque de vigilance des citoyens face aux nouvelles technologies et l’importance de l’éducation à la protection des données.

Hypertrucages : la CNIL face aux deepfakes

L’une des menaces les plus insidieuses dans le domaine de l’IA reste l’hypertrucage, ou deepfake, qui consiste à manipuler des vidéos de manière extrêmement réaliste grâce à l’IA. Ces technologies, déjà utilisées pour des fins malveillantes telles que la désinformation ou l’escroquerie, sont de plus en plus accessibles. La CNIL, à travers son Laboratoire d’Innovation Numérique (LINC), s’associe à d’autres acteurs pour mieux détecter ces contenus et limiter leur impact sur la société.

Une régulation interdisciplinaire pour une protection accrue des données personnelles

Au-delà des questions techniques, la CNIL œuvre également pour renforcer la régulation internationale et européenne. En 2024, elle a été un acteur clé au sein du Comité Européen de la Protection des Données (CEPD), participant à des travaux cruciaux sur des sujets tels que le modèle « Consentir ou Payer » et la directive ePrivacy, qui vise à encadrer le tracage des utilisateurs à travers le web. Dans le cadre de ses actions de régulation, la CNIL a également coopéré avec de nombreuses autorités étrangères, contribuant à une gouvernance mondiale de l’IA.

À lire aussi :

• CNIL 2024 : régulation, accompagnement, sanction (partie 1).