IA, sécurité, enfance... La CNIL dévoile ses grands chantiers pour 2024

[video width="640" height="360" mp4="https://www.alliancy.fr/wp-content/uploads/2024/01/archive-4299061-5535000-5955000.mp4"][/video]

16 000. C'est le nombre de plaintes reçues par la CNIL l'an passé, soit deux fois plus qu'il y a quelques années. Dans un contexte de numérisation croissante de la société, l’institution doit s'adapter et répondre aux défis posés par les nouvelles technologies qui se démocratisent très rapidement. « La CNIL doit veiller à ce que le numérique soit bien au service de chaque citoyen », assure Marie-Laure Denis, ajoutant que « cette position se reflète dans la promotion du RGPD comme vecteur de confiance ». Durant son audition face à la Commission des lois du Sénat, mercredi 17 janvier 2023, en vue d'un second mandat, l'actuelle présidente a présenté les trois principaux défis auxquels la CNIL sera confrontée dans les cinq prochaines années.

Défi 1 : Aider au développement de l'IA dans le cadre du RGPD

« La CNIL doit concilier le développement de l'IA et la protection des données personnelles », expose Marie-Laure Denis. Pour développer des intelligences artificielles, d'immenses quantités de données sont nécessaires, et les modèles actuels ne distinguent pas la sensibilité de ces données. Alors que près de 175 milliards de paramètres étaient déjà nécessaires pour faire fonctionner GPT-3, il y a un an, la présidente de l’autorité chargées de la protection des données, candidate à sa propre réélection, s'interroge sur la possibilité d’en garder la maîtrise : « Le RGPD, c'est le droit d'accéder à ses données personnelles, de les modifier et de les supprimer ».

Dans un objectif d'aider les entreprises à aborder sereinement le développement et l'utilisation des IA, la CNIL a lancé un plan l'an passé et donnera des recommandations à l'été 2024. « Il faut indiquer aux acteurs comment développer ces modèles en se conformant au RGPD et en exploitant ses marges d'interprétation », indique Marie-Laure Denis. « Il y a des précautions à prendre en amont et des garanties à apporter en aval », juge-t-elle avant d'estimer : « C'est le rôle de la CNIL que de veiller à ne pas freiner l'éventuel développement d'un ChatGPT français, tout en protégeant les utilisateurs ».

Défi 2 : De nouvelles technologies assurant un équilibre liberté-sécurité

« Si l'État est fort, il nous écrase ; s'il est faible, nous périssons ». Avec cette citation du poète et philosophe Paul Valéry, la présidente de la CNIL évoque l'équilibre que les pouvoirs publics doivent atteindre dans l'usage des technologies à des fins régaliennes, avec l'aide de l'institution. « La sécurité intérieure est un enjeu majeur, de plus en plus influencé par l'apparition de nouvelles technologies », assure Marie-Laure Denis devant la Commission des lois du Sénat. La candidate à un nouveau mandat de cinq ans estime que les moyens de surveillance utilisés doivent être proportionnés.

À l’occasion des Jeux olympiques organisés, l’été prochain dans la capitale, une expérimentation est en cours pour l’utilisation de caméras augmentées, boostées à l’intelligence artificielle. « Cette expérimentation est exemplaire car proportionné et dans le respect du droit des personnes », assure la présidente de la CNIL qui expose à nouveau le rôle d’accompagnement de l’institution. « Il faut que la CNIL aide les pouvoirs publics dans l’organisation de cet événement hors norme que sont les Jeux olympiques. Mais elle doit veiller à ce que les enjeux de protection de la vie privée soient pris en compte, notamment autour de la collecte de données personnelles dans le cadre d’accès à des périmètres sécurisés ».

Défi 3 : La protection des enfants et adolescents dans leurs interactions avec le numérique

« C’est sans doute le sujet le plus urgent et le plus complexe », confie Marie-Laure Denis, « les effets indésirables du numérique sur les enfants et adolescents justifient une très grande vigilance ». Ainsi, la candidate expose son ambition d’accompagner de manière volontariste les adolescents et leurs parents dans leurs usages du numérique ainsi que dans la protection de leurs données personnelles. Elle souhaite également impliquer les organismes du numérique : « Il faut qu’ils prennent en compte les spécificités des jeunes publics avec pour objectif de respecter notamment le droit à l’effacement de leurs données ». La CNIL met ainsi au cœur de sa future feuille de route un sujet qui a pris une importance croissante également au niveau européen, mais face auquel de nombreuses institutions et encore plus d’entreprises se sentent impuissantes.