Les citoyens veulent plus d’éthique et de transparence

Vous avez choisi d’associer des citoyens à votre réflexion sur l’usage de l’IA, pour quelles raisons ?

Séverine Saint-Martin (Montpellier). Nous souhaitions travailler avec les habitants autour de la question, non pas de savoir si nous allions utiliser ou non l’IA au sein de la collectivité, mais comment et pour quel usage, en lien avec la préparation de notre stratégie de la donnée.

Pierre Jannin (Rennes). Pour nous, le moment déclencheur a été le déploiement de la 5G dans les territoires, nous avons vu émerger un point de vue de la société civile sur ces questions qui, jusque-là, n’étaient pas entrées dans le domaine public. Nous avons souhaité donner la parole aux citoyens sur le numérique qui devenait une question sociale, une question sociétale, et pas seulement technique, venant « d’en haut », semblant être imposée aux territoires. Car sans demander l’avis des citoyens, on l’a vu pour la 5G, des opinions se cristallisent et peuvent induire des prises de position assez violentes.  Nous nous sommes donc posé la question, comme pour la 5G, de l’intérêt de l’IA pour les Rennaises et les Rennais.

Quelles méthodologies avez-vous mises en place ?

Pierre Jannin. Pour débattre de la 5G, nous avions mis en place une démarche encadrée par des garants de la Commission nationale du débat public (CNDP). Parmi les 54 propositions issues de ce temps de participation, il y en avait une qui indiquait le souhait de pérenniser la démarche. Nous avons alors créé le Conseil citoyen du numérique responsable (le CCNR)^[1] qui a commencé à travailler début 2022, en auto-saisine ou en saisine de la ville,  avec une trentaine de citoyennes et de citoyens tirés au sort, renouvelés tous les deux ans.

Séverine Saint-Martin. Nous avons choisi d’organiser une Convention citoyenne composée de 40 membres, représentatifs des 500 000 habitants de la métropole par leur âge, catégories socio-professionnelles, quartiers, etc. Ce format nous paraissait intéressant pour que les citoyens puissent, dans un temps relativement court, sur trois week-ends, avec des apports d’information, des auditions et des témoignages… comprendre et s’exprimer sur le sujet^[2]. Cette convention citoyenne a fourni huit préconisations qui ont toutes été adoptées dans la stratégie « IA et Data » de la collectivité en octobre 2024.

Quels sujets ont émergé dans les échanges entre citoyens ?

Pierre Jannin. Les membres du CCNR ont souhaité se focaliser sur les problématiques de sécurité et leur impact sur les libertés publiques. Ils ont travaillé sur l’importance de la qualité et de la transparence des données dans l’IA, la confidentialité, la rigueur de leur gestion, l’impact sur la vie privée, mais aussi sa gouvernance. Notre stratégie métropolitaine de la donnée s’est nourrie de ces apports.

Séverine Saint-Martin. Les membres de la convention citoyenne ont aussi travaillé sur l’impact écologique. Une autre question qui a fortement émergé est celle de l’usage de l’IA pour les services publics, avec une forte recherche d’utilité sociale. Comme par exemple, pour suivre et préciser l’usage de l’eau ou l’amélioration des mobilités mais avec, à chaque fois, le souhait de ne pas couper le lien avec un agent humain physique.

Sur quoi les citoyens souhaitent-ils que la collectivité soit particulièrement vigilante ?

Séverine Saint-Martin. Ils étaient majoritairement contre le fait que les agents publics puissent être remplacés par l’intelligence artificielle et nous ont demandé d’être attentifs à l’accompagnement des transformations des métiers de la collectivité avec l’IA. Ils ont insisté sur le fait qu’une collectivité devait faire attention aux effets de mode. Mais le plus gros débat s’est focalisé sur la sécurité, notamment sur la vidéosurveillance assistée par un traitement automatisé. De leur point de vue, s’il n’y a plus personne derrière la caméra, on change de paradigme. La ville a d’ailleurs décidé de mettre en place une commission sur le sujet.

Manu Reynaud. Quand nous avons parlé des données liées à des politiques sociales, donc liées à la vie de la personne, son niveau de revenu, ses impayés, les difficultés rencontrées… le débat a été fort. Les membres de la convention citoyenne ont insisté sur la confiance nécessaire, donc la transparence, le fait d’informer quand la collectivité utilise des données et pour quels usages.

Est-ce que les points de vue des agents et des citoyens convergent ?

Manu Reynaud. Nous avons mobilisé plus de 200 agents pendant un an au sein de la collectivité. Ils ont bien compris que l’IA pouvait permettre d’analyser de grandes masses de données et donc de mesurer plus facilement l’impact d’une politique publique et de l’ajuster au mieux. Mais ils sont inquiets sur la relation aux usagers. Le lien à l’agent humain et la formation ressortent chez les citoyens comme les agents.

À la demande des citoyens, créez-vous des alliances entre institutions sur le sujet ?

Séverine Saint-Martin. Les citoyens ont insisté sur la coopération et non pas la compétition, ainsi que sur le décloisonnement entre les différents territoires.

Manu Reynaud. Dans les propositions, l’idée d’un Data Center local, mutualisé avec l’université, le CHU et des entreprises a émergé. C’est toute une chaîne d’acteurs et de choix politiques qu’il faut activer et animer. L’autre sujet est l’évaluation au fil du déploiement de l’IA au sein de la collectivité. Nous devons construire une grille d’analyse de l’impact social et environnemental de l’IA. Nous travaillons avec Nantes,  qui a construit une boussole d’analyse, et Strasbourg, sur la base d’une IA sobre et responsable. À Montpellier, nous commençons à tester des indicateurs avec de petits groupes d’utilisateurs pour évaluer l’empreinte environnementale de l’IA.

Nous voulons aussi mettre en place des Halles de l’IA pour débattre de ses liens avec la santé, les relations sociales, l’éducation… au travers d’une association qui va réunir l’ensemble des partenaires et construire un instrument de gouvernance commun.

Enfin, les membres de la convention citoyenne souhaitent continuer à cheminer avec nous dans la réflexion et pouvoir donner des avis sur le déploiement de l’IA. Les citoyens ont proposé de mettre en place un comité du numérique et de l’IA dans lequel seront associés des acteurs du territoire (chercheurs, universitaires, chefs d’entreprises…) et les citoyens. Ce comité pourra être consulté et évaluer les projets et expérimentations impliquant l’IA.

Pierre Jannin. Nous sommes reliés à d’autres collectivités et à des associations comme les Interconnectés (lire encadré Clés). Nous allons interroger l’État et l’Europe pour construire un cadre éthique basé sur ce qu’ont exprimé les citoyens dans plusieurs collectivités

Propos recueillis par Sylvie Barnezet