Forum des interconnectés : les collectivités défendent une IA responsable et sous contrôle

Peut-on contrôler et cadrer l'intelligence artificielle (IA) ? Comment faire le numérique avec les citoyens ? Quels sont les principaux enseignements des concertations territoriales de l'IA ? Comment engager les territoires vers un numérique pour toutes et tous ? Comment mettre en place des mesures d'accompagnement et de cadrage aux usages de l'IA dans les collectivités ? Quels sont les impacts de l'IA sur les métiers des collectivités ? L'IA, le numérique responsable, la médiation et inclusion numérique ou encore l'aménagement numérique des territoires ont rythmé les deux jours du Forum des interconnectés. Dans un monde où les collectivités doivent répondre à des défis toujours plus complexes  - transition écologique, inclusion numérique, cybersécurité, gouvernance des données et déploiement de l'IA -, ce Forum offre la possibilité d'échanger, de prendre du recul, de partager les retours d'expériences ou les cas d'usages et de construire collectivement des solutions à l'échelle des territoires.

Durant ces deux jours, ce sont surtout les questions de souveraineté numérique et d'une IA maîtrisée et contrôlable au service des territoires qui ont été au centre des discussions, aussi bien en coulisses que sur scène, dans un contexte mondial marqué par la prise de pouvoir de la tech américaine aux Etats-Unis et l'irruption fulgurante de l'intelligence artificielle générative (IAG) dans le monde du travail.

 

Un manifeste pour une IA responsable et au service des territoires

L'adoption officielle du manifeste pour une IA Responsable a été un moment fort du Forum des interconnectés. Fruit d’un travail collectif engagé et nourri par les élus territoriaux réunis au sein de la commission numérique d’Intercommunalités de France, France urbaine et des Interconnectés, un comité de rédaction impliquant un panel d’élus et d’agents de collectivités et l’implication d’acteurs académiques, associatifs, économiques, citoyens dans les concertations territoriales de l’IA, ce document fondateur est une prise de position des collectivités locales françaises, membres des Interconnectés, au moment où les systèmes d'IA s'immiscent à grande vitesse, partout et dans tous les secteurs.

Pierre Jannin, conseiller municipal délégué au numérique et innovation à la ville de Rennes, est revenu sur la philosophie de ce manifeste, insistant sur «le besoin de concevoir une IA au service des territoires avec une technologie responsable».

Le manifeste pose les jalons d'une IA responsable, sous contrôle et ancrée dans les réalités territoriales. Pierre Jannin a détaillé les quatre axes du manifeste : une IA sociale (équité de traitement, IA non discriminante…), une IA ouverte et démocratique (transparence, maîtrise des outils, l’importance de définir des cadres éthiques locaux, mode de gouvernance de l’IA et des algorithmes, formation à la technique mais aussi aux limites), une IA utile et proportionnée (une IA qui répond aux besoins sociales et démocratiques, avec une sobriété des matériels…) et enfin une IA territoriale («revenir à une IA que l’on peut maîtrisé localement au niveau des territoires et qui ne vient pas au-delà des océans»).

Le "Manifeste pour une IA Responsable" met en avant quatre axes principaux : une IA sociale, une IA ouverte et démocratique, une IA utile et proportionnée et une IA territoriale.

À l'occasion de la présentation de ce manifeste, les interconnectés ont invité Justine Banuls, élève avocate et membre du collectif «Changer de cap ! » qui lutte contre la maltraitance institutionnelle dans les CAF et qui sensibilise aux enjeux de la numérisation et des traitements automatisés dans les organismes sociaux. 

Sur les question d'IA, les collectivités territoriales ont un double rôle à jouer : un rôle d'exemplarité, en adoptant des pratiques responsables, et un rôle de palliatif pour pallier les éventuels effets négatifs de l'IA.

Pour Alexis Roussel, co-auteur de l'ouvrage "Notre si précieuse intégrité numérique : plaidoyer pour une révolution humaniste", il est crucial de garantir la protection de la vie numérique des personnes. Cela passe par la reconnaissance d'un véritable «droit à l'intégrité numérique» , qui englobe le droit à une vie hors-ligne, le droit à la sécurité numérique et le droit à ne pas être jugé par une machine. Ce droit, plus large que la simple protection de la vie privée, a déjà été adopté par les populations de Genève et Neuchâtel, ainsi que par l'Eurométropole de Strasbourg.

Francky Trichet, président des Interconnectés, a rappelé que l'adoption de ce manifeste s'inscrit dans la volonté d'aller vers un numérique responsable. « On est à un moment clé où l'on revient aux fondamentaux face à un chantier immense. On a introduit un artefact, une technologie omniprésente, qui est devenue notre quotidien. Le défi majeur réside dans la capacité des collectivités territoriales à offrir des services publics adaptés et à devenir le maillon de la preuve », avant d'ajouter :

Il est aussi important d'anticiper les besoins futurs et d'initier une démarche de transparence et de rigueur pour évaluer nos dépendances. Cela passe par la mise en place d'observatoires territoriaux des dépendances, notamment numériques et géopolitiques. Il faut prendre conscience de la nécessité de s'observer collectivement pour éviter les dérives et garantir un meilleur avenir.

La bibliothèque d'IA territoriales : un commun numérique pour partager les expériences

Afin de mutualiser les efforts et de faciliter l'accès à l'IA pour toutes les collectivités, le Forum a également vu le lancement officiel de la « Bibliothèque d’IA territoriales ». Cette ressource, élaborée avec la Banque des territoires et l’Ecolab, est pensée comme un commun numérique. Elle a pour vocation de recenser et de documenter les usages de l'IA par les collectivités, de favoriser la circulation des expériences et des ressources techniques et de répondre aux enjeux de transparence.  L'idée est de créer un écosystème d'échange et de collaboration, où les bonnes pratiques sont partagées et les solutions mutualisées.

Pour les collectivités territoriales, les coûts financier, humain et écologique de projets IA nécessitent de cibler des projets réellement utiles et incitent de fait au partage d’expériences. L’idée de mutualisation et de documenter les expériences est à la base du travail proposé ici, précise Francky Trichet.

Une vingtaine de cas d'usages sont aujourd'hui recensées s'articulant autour de six thématiques principales (Transition écologique et énergétique, Attractivité et aménagement, Citoyenneté, santé et solidarité, Mobilités, Gouvernance et socles technologiques, Administration et organisation interne). De la métropole de Bordeaux, qui utilise l'IA pour identifier le potentiel de plantation, à Aix-Marseille Métropole, qui a mis en place un callbot pour la gestion des déchets, en passant par l'agglomération du Sicoval, qui utilise l'IA pour détecter les fuites d'eau, à la métropole rennaise qui parvient à réduire sa facture énergétique de 15% sur ses stations d’épurations grâce à l’IA... les exemples concrets ne manquent pas. Il y a aussi les cas d'usage de l’agglomération de Saint-Quentin-en-Yvelines (78) qui optimise les mobilités grâce à l’IA et la Métropole Rouen Normandie qui utilise l'IA générative pour la recherche d’informations sur les délibérations publiques en exploitant une base de connaissance de près de 2 millions de décisions publiques issues de plus de 5500 collectivités.

Mythes et réalités de l'IA dans les collectivités : une étude pour démystifier

Une étude sur les "mythes et enjeux de l'utilisation de l'IA dans les collectivités territoriales" a aussi été présentée, offrant un regard critique et nuancé sur les promesses et les défis de l'IA. Cette étude déconstruit notamment l'idée reçue selon laquelle le contrôle humain serait une solution miracle face aux limites de l'IA, soulignant les biais potentiels et les risques de perte d'expertise. Elle met également en garde contre l'illusion d'un allègement automatique des tâches pour les agents, insistant sur la nécessité d'une approche contextualisée et d'un dialogue social. 

Au-delà des aspects techniques, le Forum a mis en lumière les enjeux éthiques liés à l'IA. La question de la transparence des algorithmes, de la protection des données personnelles et de la lutte contre les discriminations a été largement abordée. La nécessité de garantir un "droit à l'intégrité numérique", incluant le droit à une vie hors-ligne et le droit à ne pas être jugé par une machine, est revenu dans les discussions. La formation et la sensibilisation des agents territoriaux sont apparues comme des priorités à l'occasion de plusieurs ateliers. Le CNFPT vient de lancer un MOOC sur les fondamentaux de l'IA ouvert à tous les agents territoriaux et va lancer à partir de septembre 2025 des formations métiers (L'IA au service de l'aménagement et des territoires, l'IA au service de la mobilité, l'IA dans le recrutement...). L'objectif est de donner aux agents les clés pour comprendre les enjeux de l'IA, maîtriser les outils et adopter une approche responsable.

Le Forum des Interconnectés a été un moment fort pour mobiliser les acteurs territoriaux autour d'une vision commune de l'IA responsable. Les défis sont nombreux, mais les initiatives se multiplient et témoignent d'une volonté collective de construire un futur numérique maîtrisé et au service du bien commun.