SIA : la CNIL ouvre une section dédiée à l'intelligence artificielle
Face au succès que rencontre l'IA, notamment avec ChatGPT, la CNIL a annoncé la création d'un service de l'intelligence artificielle (SIA) destiné à encadrer l'utilisation de cette technologie et à répondre aux problémes qu'elle soulève.
L'intelligence artificielle connaît actuellement d'incroyables avancées technologiques. Il suffit de voir le succès de ChatGPT et les bouleversements qu'il produit pour comprendre que cette révolution concernera absolument tous les secteurs. Mais avec des outils et des logiciels de plus en plus sophistiqués, il est normal de s'inquiéter d'éventuels problèmes, éthiques comme techniques, que pourrait engendrer la généralisation de l'intelligence artificielle. D'autant plus que son fonctionnement repose généralement sur du machine learning, et donc sur le traitement d'un grand nombre de données, y compris personnelles, et que leur exploitation comporte des risques pour la vie privée et autres droits fondamentaux.
Face à ses nouvelles problématiques, la Commission nationale de l'informatique et des libertés (CNIL) a décidé de ne pas attendre que l'Union européenne se mette enfin d'accord sur les modifications à apporter à l'Artificial Intelligence Act, destinée à encadrer l'utilisation de l'intelligence artificielle en Europe, pour se pencher sur les problématiques que le sujet comporte. C'est pourquoi elle a annoncé dans un communiqué, le 23 janvier 2023, la création d'un service de l'intelligence artificielle (SIA) qui devra tenter de répondre aux diverses interrogations et surtout d'encadrer l'utilisation de l'IA à l'avenir.
SIA : protéger la vie privée et encadrer les usages de l'IA
La création du SIA fait suite à la proposition du Conseil d’État en août 2022 de faire de la CNIL le régulateur de l'intelligence artificielle, une problématique sur laquelle elle travaille depuis 2017. Son but : "renforcer l'expertise de la CNIL sur ces systèmes et sa compréhension des risques pour la vie privée tout en préparant l'entrée du règlement européen sur l'IA". C'est aussi un moyen de se pencher sur la transparence et la compréhension d'une technologie "bien souvent perçue comme une boîte noire" afin d'en assurer une régulation équilibrée et de permettre aux acteurs du secteur et à la CNIL de maîtriser les risques pour la vie privée.
Il suffit de voir les questions que soulèvent les générateurs d'images, accusés de violer les droits d'auteur en s'entrainant et en "recopiant" les images d'artistes qui se trouvent sur Internet et qui ne sont pas libres de droits. En parlant de droits d'auteur, qui est celui de l'image créée, l'IA ou l'utilisateur ? Et c'est sans compter sur la transparence de l'utilisation d'un tel outil, que ce soit pour du texte, une illustration ou quoi que ce soit d'autre. Comment savoir si cela a été produit par un humain ou par une intelligence artificielle et, dans ce cas-là, quelle valeur lui accorder ? Le nouveau service de la Commission va avoir du pain sur la planche !
Le SIA est actuellement composé de juristes et d'ingénieurs spécialisés, pour un total de cinq personnes directement rattachées à la direction des technologies et de l'innovation de la CNIL, sous la houlette de Bertrand Pailhes, un ancien coordinateur national pour la stratégie d'intelligence artificielle au sein de la DINSIC (Direction interministérielle du numérique et du SI de l’État). La CNIL a d'ores et déjà lancé des travaux sur les bases de données d'apprentissage automatique pour fournir des recommandations et des réponses concrètes aux professionnels et pour leur donner un cadre d'analyse de la réglementation sur la protection des données personnelles afin de garantir la sécurité de celles des utilisateurs.