La Convention-cadre du Conseil de l'Europe sur l'intelligence artificielle, adoptée à Vilnius le 5 septembre 2024, vise à encadrer les activités liées au développement, au déploiement et à l’utilisation des systèmes d’intelligence artificielle (IA) afin d’assurer leur compatibilité avec les droits de l’homme, la démocratie et l’État de droit. Elle est motivée par les impacts de l’IA sur la société et par la nécessité d'un cadre juridique international pour régir ces nouvelles technologies tout au long de leur cycle de vie. Les parties reconnaissent les opportunités offertes par l’IA pour le progrès humain, mais aussi les risques qu’elle pose, notamment en termes de surveillance, de censure, de discrimination et d’inégalité.
La protection de la dignité humaine, de la vie privée et de la démocratie
Le préambule de la Convention rappelle l'importance de protéger la dignité humaine, la vie privée et l'autonomie personnelle dans l'usage de l'IA, ainsi que la nécessité de prévenir des usages répressifs ou abusifs de ces technologies. La Convention appelle à une coopération internationale pour exploiter les avantages de l'IA tout en respectant les valeurs fondamentales des sociétés démocratiques.
La Convention précise son champ d’application en affirmant que ses dispositions s'appliquent aux activités menées par les autorités publiques et les acteurs privés, lorsque leurs activités touchent aux droits humains et à la démocratie. Les activités concernant la sécurité nationale sont exclues de son champ d’application, à condition qu’elles respectent le droit international. Les activités de recherche et de développement de l'IA, tant qu'elles ne sont pas rendues accessibles au public, ne sont également pas couvertes, sauf si elles présentent un risque significatif pour les droits de l'homme.
En matière de protection des droits de l’homme, chaque partie s'engage à garantir que les activités d'IA respectent les obligations internationales de droits de l’homme. La Convention introduit des principes comme la dignité humaine, l’autonomie personnelle, la transparence et la responsabilité. Elle prescrit également une obligation de rendre des comptes en cas d’effets négatifs de l’IA, et prévoit des mesures de prévention des risques de discrimination, avec une attention particulière pour l’égalité de genre et les droits des personnes en situation de vulnérabilité.
De même, les parties doivent prendre des mesures pour que les processus démocratiques ne soient pas entravés par des systèmes d’IA et pour garantir que les citoyens aient un accès équitable à l’information, tout en favorisant une participation libre et éclairée aux débats publics. Elles s'engagent à garantir que les systèmes d’IA respectent les processus judiciaires et à ne pas entraver l’accès à la justice.
Transparence
En termes de transparence, la Convention impose aux Parties de s’assurer que les systèmes d’IA soient transparents et contrôlables et inclut des exigences pour identifier le contenu généré par des IA, afin que les utilisateurs sachent s’ils interagissent avec une machine ou un être humain. Un cadre est également mis en place pour la gestion des risques et des impacts, avec des mesures adaptées à la gravité et à la probabilité des impacts potentiels de l'IA sur les droits de l'homme, la démocratie et l'État de droit.
Concernant la protection de la vie privée, la Convention exige la mise en place de garanties de protection des données personnelles et du respect de la vie privée, conformément aux législations nationales et internationales. Les parties s’engagent à promouvoir la fiabilité des systèmes d’IA, en veillant à la qualité et à la sécurité de ces systèmes tout au long de leur cycle de vie. La Convention encourage également une innovation sûre en IA, permettant le développement et l’expérimentation sous surveillance des autorités compétentes, dans des environnements contrôlés.
Voies de recours
Par ailleurs, les citoyens doivent disposer de voies de recours en cas de violations des droits de l’homme par des systèmes d’IA, avec des mécanismes assurant la transparence des systèmes et facilitant les contestations de décisions prises par des IA. Des garanties procédurales sont prévues, notamment pour que les personnes concernées sachent qu'elles interagissent avec une IA.
La Convention prévoit un mécanisme de suivi sous la forme d’une Conférence des parties, permettant aux États membres de se réunir pour évaluer l’application de ses dispositions, proposer des modifications et échanger des informations sur les avancées dans le domaine de l'IA. Les États sont tenus de soumettre des rapports périodiques détaillant leurs mesures de mise en œuvre. Ce mécanisme de coopération inclut aussi la possibilité pour les États d'inviter des parties prenantes extérieures à contribuer aux discussions.
Protection des enfants et des personnes handicapées
Enfin, la Convention accorde une attention particulière aux droits des enfants et des personnes handicapées, à travers des mesures de protection spécifiques. Elle recommande des consultations publiques et un débat multipartite pour les questions soulevées par l'IA et ses implications sociales, économiques, juridiques, et éthiques. Elle encourage également l’éducation numérique, afin que la population dispose des compétences nécessaires pour comprendre et interagir avec les systèmes d’IA.
En conclusion, cette Convention du Conseil de l’Europe sur l’IA vise à établir un équilibre entre l’innovation technologique et le respect des droits fondamentaux, en mettant en place un cadre juridique pour prévenir les abus tout en tirant parti des opportunités offertes par l’intelligence artificielle pour le progrès humain et social. Et, plus particulièrement, l’exigence en matière de transparence sur les contenus de l’IA permettra une meilleure protection de la propriété intellectuelle des données utilisées qui reste toujours un sujet de préoccupation et de vigilance.
