Intelligence artificielle et prise de décision : tous concernés

Jacques Priol est le fondateur et directeur du cabinet CIVITEO qui développe une expertise autour du sujet stratégique de « la place de la donnée dans la décision publique ». Son ouvrage Le big data des territoires¹ a inspiré de nombreuses organisations publiques dans l’élaboration de leurs stratégies de la donnée². Il est spécialiste de la gestion des données publiques et dispose d’une expérience approfondie de l’usage des nouvelles méthodes de traitement des données d’intérêt général en France : management de la donnée, construction d’un cadre de confiance, expérimentation à grande échelle de l’algorithme big data appliquée à la gestion publique et aux smart cities, open data, protection des données personnelles. Nous lui avons proposé de nous expliquer comment l’IA peut aider les collectivités dans leur processus de décision.

Avez-vous de « bons exemples » concernant l’utilisation de l’IA au sein des collectivités à nous citer ? Ou est-ce encore trop récent ?

Nous sommes au début d’une histoire, je ne sais pas si nous pouvons encore citer de bons exemples. Il y a des expérimentations en cours : l’observatoire Data Publica a réalisé une grande enquête sur l’utilisation de la donnée et notamment sur l’IA auprès de collectivités françaises de toutes tailles. Nous avons identifié une quarantaine de territoires qui expérimentent de l’IA.

Ce qui change, depuis une petite dizaine d’années, c’est que nous avons de nouveaux outils et de nouvelles données qui viennent soutenir le pilotage des politiques publiques.

Il y a deux ou trois territoires dans lesquels des outils doués d’IA aident à la décision. Dans la plupart des cas, ce sont encore des tests. Certaines métropoles se sont engagées dans la foulée de démarches de types « territoires intelligents » avec des capteurs sur l’eau ou la mobilité. Ils ont produit beaucoup de données et il est intéressant pour eux de tester ces nouveaux outils et algorithmes d’IA. En revanche, il faut garder en tête un certain nombre de règles et de principes à respecter.

Quelle est la différence entre l’utilisation simple de la data et l’IA ?

On utilise de plus en plus de données dans l’action publique. Ce n’est pas nouveau. En France, nous sommes d’ailleurs un pays qui se targue d’être un inventeur de la statistique publique. Nous avons énormément de données dans notre gestion administrative quotidienne. Ce qui change, depuis une petite dizaine d’années, c’est que nous avons de nouveaux outils et de nouvelles données qui viennent soutenir le pilotage des politiques publiques. Nous avons des outils avec de grands volumes de données, qui permettent une forme de pilotage en temps réel d’un certain nombre de fonctions. Ce que l’on voit aussi apparaître depuis quelques années, ce sont de nouvelles formes de mises à disposition de la donnée auprès des décideurs. Avec parfois des outils assez simples, mais très percutants et efficaces. On parle même « d’hyper-vision ». L’IA apporte quelque chose de plus, c’est une puissance de calcul. Une manière de calculer et d’agréger des données de plus en plus volumineuses. Objectif : identifier des modèles pour faire des prévisions et émettre des alertes qui viendront plus rapidement impacter la façon dont on manœuvre les politiques publiques. Est-ce que cela apporte véritablement un « plus » ? Cela reste, dans bien des cas, à démontrer.

Quels sont les risques ?

Aujourd’hui, nous sommes au tout début de quelque chose. Personnellement, je mets en garde face à deux risques. Le premier serait de balayer tout d’un revers de la main, en se disant « ce n’est pas pour nous » ou « c’est dangereux ». Il y a des modèles dangereux, par exemple, en Chine. Il faut être vigilants pour que ces mêmes outils n’arrivent pas à notre insu en France. Un certain nombre de grandes entreprises travaillent pour le compte des collectivités dans le cadre de délégations de services publics. Elles utilisent ces outils. Si nous ne comprenons pas comment elles gèrent cela, nous allons perdre le contrôle de ces politiques publiques. Le second risque est l’inverse : une fuite en avant. Attention à ne pas se saisir de ces sujets par effet de mode ou parce qu’il y a des subventions actuellement.

Comment gérer l’arrivée de l’IA dans une collectivité ?

L’IA va d’abord aider là où l’on retrouve des volumes de données colossaux que les dispositifs humains habituels des collectivités ne peuvent pas traiter. Un exemple très concret : l’imagerie satellite est de plus en plus présente. Elle est utilisée de façon massive aujourd’hui pour des systèmes d’informations géographiques vis-à-vis de problématiques comme les îlots de chaleur ou la gestion des différents cycles de l’eau. Aujourd’hui, l’IA peut venir en appui aux travaux de nos équipes chargées des systèmes d’informations géographiques (SIG) très en amont, chez des prestataires ou au sein de quelques collectivités pionnières qui les utilisent. L’IA peut aussi servir quand il y a des besoins de continuité. C’est le cas pour des dispositifs dont on souhaite qu’ils soient opérationnels 7j/7 et 24h/24. On ne va pas mobiliser des agents et des ressources supplémentaires pour le faire.

Où en sont les smart cities ?

En 2022, j’ai remis au Gouvernement un rapport³ qui faisait un état des lieux de la smart city. 200 territoires sont engagés et pas que des grandes métropoles. Ils utilisent des systèmes sophistiqués de pilotage d’un certain nombre de fonctions urbaines. Des déchets aux déplacements. Les impacts sont mesurés, y compris concernant le retour sur investissement. Ce n’est pas toujours important. Mais il y a aussi un impact sur la manière de rendre l’action publique plus efficace ou sur les usages pour les citoyens. Les élus sont attentifs à ce qu’il y ait un impact positif sur le territoire. Cela ne doit pas empêcher l’expérimentation.

Quelles sont les limites à ne pas franchir ?

La principale ligne rouge, c’est qu’il ne faut pas utiliser ce type de système très complexe pour de la prise de décision individuelle. C’est au nom d’un principe fondamental : ces systèmes arrivent au xxi^e siècle, ils entrent parfois en contradiction avec des principes très anciens auxquels nous sommes attachés. J’aimerais notamment citer l’article 15 de la Déclaration des droits de l’homme et du citoyen de 1789 : nous avons institué la redevabilité de l’action publique. Tout citoyen est en droit de demander des comptes à son administration. Si aujourd’hui, nous utilisons des algorithmes extrêmement sophistiqués avec de l’IA – qui, selon la définition du Conseil constitutionnel, sont capables de réviser eux-mêmes les règles qu’ils appliquent, nous allons amener nos concitoyens devant des murs d’incompréhension face à des décisions qui les concernent. Si ce sont des algorithmes opaques, cela pose des problèmes « d’explicabilité ». Le Conseil constitutionnel nous a déjà dit que les décisions prises avec ces outils seraient jugées non-constitutionnelles.

Peut-on se demander si l’IA est là pour prendre la décision ou pour aider à prendre la décision ?

L’étude sur l’IA⁴ de Thalia Breton et Alexandre Lallet pour le Conseil d’État, publié en 2022 au sein du service public, pose le principe de la primauté des décisions humaines et de l’usage de l’IA comme une aide à la décision. Néanmoins, j’attire votre attention sur une difficulté : lorsque l’on développe ce genre d’outil, cela prend du temps. Cela mobilise beaucoup de données. Et cela coûte cher. Une fois l’outil opérationnel, les décideurs, dont les fonctionnaires territoriaux et les élus, auront tendance à s’y conformer. La question n’est pas tant celle du caractère humain ou pas de la décision, mais plutôt celle du libre arbitre de ceux qui se trouvent face à un outil doué d’IA.

Quelles sont les étapes par lesquelles les collectivités doivent passer pour se lancer dans l’IA ?

Il y a deux étapes préalables. La première : la formation, afin de comprendre comment cela fonctionne. Il n’y a pas de magie dans ces systèmes. Les algorithmes ne sont pas des boîtes noires. Ce sont des systèmes avec des mathématiques, des statistiques ou de la probabilité. Se former, c’est savoir si on peut essayer de les mettre en place et voir s’il y aura un bénéfice pour les politiques publiques sur le territoire.

La question n’est pas tant celle du caractère humain ou pas de la décision, mais plutôt celle du libre arbitre de ceux qui se trouvent face à un outil doué d’IA.

La seconde est l’accompagnement des équipes concernées. Il y a une question autour de l’acceptabilité sociale et globale dans nos sociétés de ces systèmes. C’est sujet à de nombreux débats. Nous avons tout à fait raison d’être méfiants à certains égards. Mais l’acceptabilité, c’est aussi celle des fonctionnaires territoriaux et des agents publics à qui nous pourrions imposer ce genre de système. Ce n’est pas naturel et cela pourrait éventuellement échapper à leur maîtrise. Enfin, il faut des tests et des prototypes. Réaliser sa propre expérience, pas à pas. Ne pas croire qu’un jour nouveau arrive. Demain matin, le secteur public ne sera pas totalement bouleversé par ces systèmes.

1. Priol J., Le big data des territoires. Smartcities, civic tech, services publics, protection des données, open data : les nouvelles stratégies de la donnée au service de l’intérêt général, 2017, Éditions FYP, Entreprendre. Nouvelle économie.
2. Jacques Priol a coordonné le dossier « Big data dans les territoires : comment garder la main ? », Horizons publics nov.-déc. 2020, no 18.
3. Civiteo, Datactivist, Innopublica, KPMG et Parme Avocats, De la smart city à la réalité des territoires connectés, l’émergence d’un modèle français ?, rapport, 2021, DGE, FFTélécoms, Sycabel, InfraNum et AFNUM.
4. Breton T. et Lallet A., Intelligence artificielle et action publique : construire la confiance, servir la performance, étude, 2022, Conseil d’État ; Nessi J., « Intelligence artificielle et action publique : où en sont les administrations ? », Horizonspublics.fr 10 sept. 2022 (https://www.horizonspublics.fr/numerique/intelligence-artificielle-et-action-publique-ou-en-sont-les-administrations).