Francky Trichet : «IA : encadrer les usages et mettre les mains dans le cambouis»

Dans le film Full Metal Jacket de Stanley Kubrick, un dialogue évoque la « dualité de l’homme », comme concept de Carl Jung, pour justifier la cohabitation entre un badge pacifiste arboré par un soldat et un slogan guerrier sur le casque de ce même soldat. Aujourd’hui, l’IA suscite, chez bon nombre de participants aux nombreux évènements qui lui sont consacrés, autant de crainte, de peur même, que d’intérêt, voire de fascination. Cette IA est-elle effectivement « duale » ?

Francky Trichet – Si dualité il y a, elle serait, selon moi, liée à l’aspect à la fois poison et remède de l’IA. D’un côté, l’IA est excitante, car porteuse de changements susceptibles de faire évoluer une pratique. Mais, de l’autre côté, cette technologie interroge notre capacité à la maîtriser : va-t-on en garder le contrôle ? Existe-t-il des tâches pour lesquelles la machine pourrait complètement nous remplacer ?

Pour autant, cette question de maintien du contrôle n’a de sens que si l’on refuse que son métier évolue. Il faut accepter que demain le périmètre de son métier évolue grâce à l’IA, tout en gardant le contrôle sur celle-ci. Pourquoi cacherait-on l’utilisation, l’intégration de ce nouvel outil dans sa praxis ?

Selon moi, garder le contrôle de son métier impliquera de revendiquer, ou a minima d’afficher le fait de recourir à de l’IA. L’essentiel est ailleurs ! L’essentiel réside dans la faculté de mieux se concentrer sur ce qui constitue la vraie valeur ajoutée de son métier, de monter en compétence, et de déléguer à l’IA les parties rébarbatives ou pénibles de son travail. Cela implique de bien réfléchir aux tâches que l’on peut confier à l’IA. Voilà qui va ouvrir aux agents de nouveaux spectres d’émancipation, et, de façon très noble et très concrète à la fois, de dialogue sur la fabrique du service public.

Le changement induit par l’introduction de l’IA nécessite effectivement un apprentissage collectif tout autant qu’individuel. À Nantes, nous avons lancé, pour la collectivité [NDLR : une organisation publique de 10 000 agents], un Observatoire des impacts de l’IA sur le travail.

Puisque vous parlez de spectre, celui de la destruction d’emplois est dans toutes les têtes, qui plus est alimenté par des rapports à la Cassandre. Quelle est votre position sur ce thème ?

F. T. – L’ampleur de ce phénomène est encore difficile à appréhender concrètement. Face à ce danger, qui est réel, le déploiement et l’utilisation de l’IA doivent être encadrés par une politique territoriale protectrice. C’est un sujet clé de l’attractivité du service public, dans un contexte de recrutement et de rétention de compétences tendu ! Il est vital de garder ce cadrage qui consiste, d’une part, à utiliser l’IA pour favoriser l’émancipation professionnelle et, d’autre part, à assumer en tant que collectivité que cette utilisation de l’IA n’entraînera pas de destruction d’emplois. J’insiste : il est à la fois nécessaire de cadrer politiquement, au niveau territorial, le fait qu’il n’y aura pas de destruction d’emplois, et de continuer d’informer l’ensemble des agents qu’il existe ce double effet émancipation et évolution de fait des métiers.

Michel Crozier et Erhard Friedberg¹ ont affirmé que le changement dans les organisations n’a rien de naturel, tout comme leur constitution, et qu’il doit être considéré comme un problème sociologique car ce sont les hommes qui changent ; ils ne le font ni passivement ni individuellement mais dans leur organisation sociale et dans leurs relations les uns avec les autres. Ils ont de plus souligné la dangerosité de tout changement, car mettant en question les conditions du jeu de l’acteur, ses sources de pouvoir et sa liberté d’action. Selon eux, un changement réussi implique le lancement d’un processus collectif nourri par des actions, des réactions, des négociations et de la coopération, ce qui permettra au système de s’orienter ou se réorienter comme un ensemble humain et non comme une machine. Si l’IA a un impact sans précédent sur les organisations, faut-il alors s’inspirer des travaux de Michel Crozier et Erhard Friedberg pour réussir le changement que va susciter son déploiement ?

F. T. – Le changement induit par l’introduction de l’IA nécessite effectivement un apprentissage collectif tout autant qu’individuel. À Nantes, nous avons lancé, pour la collectivité [NDLR : une organisation publique de 10 000 agents], un observatoire des impacts de l’IA sur le travail. Il associe les professionnels des ressources humaines (compétences, formation, qualité de vie au travail) et de l’organisation managériale, les médecins du travail, etc., et implique les syndicats et des agents dans les directions métier. Collectivement, l’organisation s’est formée aux enjeux et a coconstruit les outils d’évaluation. Individuellement, chacun a l’opportunité de mettre « les mains dans le cambouis », de mettre ses compétences au service de la réflexion générale sur les changements à l’œuvre. Cet observatoire est le creuset qui recueille et analyse régulièrement et sur cinq ans les évaluations des outils d’IA. Comment la technologie de l’IA transforme-t-elle les métiers, les services, l’organisation ? Est-ce que cet outil améliore le service rendu aux citoyens, notre boussole ? Tout ceci est scruté par un observatoire des impacts de l’IA.

Cet apprentissage collectif et individuel est nourri précisément par des actions, des réactions, des négociations et de la coopération. À l’issue de chaque phase de test, une décision sera prise d’utiliser ou non l’outil testé. Cette démarche est rendue possible par la mise en place d’un protocole d’instruction assez particulier, comprenant une instance technique qui présente un outil d’IA à une instance politique sous de nombreux aspects : technique, métier, réglementaire, souveraineté, environnemental, etc.

L’empreinte écologique d’un système d’IA fait d’ailleurs partie des questions que nous posons à des fournisseurs ou prestataires potentiels. Nous les questionnons sur la base d’une grille d’instruction approfondie, qui comprend l’impact des infrastructures, des choix d’entraînement, des usages. Nous observons d’ailleurs que ce questionnement approfondi permet à nos fournisseurs de mieux saisir où est placée la barre et de « se faire la main » sur les bonnes pratiques que nous souhaitons porter, spécialement sur le volet environnemental.

Comment la technologie de l’IA transforme-t-elle les métiers, les services, l’organisation ? Est-ce que cet outil améliore le service rendu aux citoyens, notre boussole ? Tout ceci est scruté par un observatoire des impacts de l’IA.

Dans quels domaines menez-vous ces tests d’outils IA ?

F. T. – Nous travaillons sur la production des délibérations des élus. Aujourd’hui, des agents sont dédiés à cette tâche. Le test de l’outil d’IA par ces agents doit leur permettre d’évaluer l’apport de l’outil et de quelle(s) manière(s) il modifie leur métier. Au lieu de se concentrer sur la rédaction stricto sensu de ces délibérations, tâche ardue et fastidieuse, les agents pourraient déléguer à l’IA cette rédaction et intervenir ensuite pour simplifier des passages pas toujours très compréhensibles. Ce besoin « d’affinage », de simplification des textes serait assuré par les agents qui auraient alors le temps, contrairement à ce qui se passe aujourd’hui, d’interagir avec les élus et les services concernés afin de rendre les décisions plus lisibles pour les citoyens ; ce qui contribuera ainsi à améliorer la qualité du service public.

Un autre exemple de test porte sur un outil d’IA avec caméra embarquée afin de fournir de l’information en temps réel concernant l’état de l’espace public, tel que les panneaux de signalisation, le marquage au sol, pour voir si cela facilite l’organisation et la planification de travaux sur la voirie. Là encore, le test implique les agents.

Les Interconnectés ont lancé en septembre 2024 les concertations territoriales de l’IA². Pourquoi avoir pris une telle initiative et sur quoi va-t-elle déboucher ?

F. T. – L’IA est avant tout une question politique et non technique. Dans cette optique, avant tout déploiement généralisé, il doit y avoir débat dans la Cité. Non pas entre les « sachants » et les autres. Tous les acteurs concernés (élus, agents, usagers, citoyens, acteurs économiques et académiques, etc.) doivent s’exprimer sur un pied d’égalité afin de coconstruire ce qui sera une IA responsable, basée sur des critères sociaux, environnementaux et éthiques. Un tel cheminement de pensée fait directement référence à Pierre Bourdieu et Hannah Arendt³.

Ces concertations territoriales, encadrées par une charte et un cadre de travail partagé, sont ouvertes à toute collectivité souhaitant porter le débat avec les acteurs du territoire et en partager collectivement les enseignements.

Aujourd’hui, une trentaine de territoires se sont approprié ce dispositif de concertation. Nous recevons toutes sortes de contributions, à savoir des notes de synthèse très documentées, des comptes-rendus de conversations entre citoyens, des conférences vidéo, etc. ; nous souhaitons tout capter. Ces contenus, ces témoignages, émanent des collectivités mais aussi des acteurs privés : l’industrie, les médias (un collectif tel que Ouest Medialab), le monde de la recherche (santé, sciences de la pédagogie, etc.), soit plusieurs centaines de contributions à ce jour ! Nous allons capitaliser sur cette matière pour, par exemple, faire ressortir les 100 questions posées par l’IA.

L’ensemble de ces temps d’échanges, de dialogues, de débats obtenus au niveau local sera mis en valeur au niveau national par la production d’un manifeste qui affirmera la doctrine politique de l’IA au service des collectivités territoriales et sera disponible au printemps 2025⁴. Je précise, par ailleurs, que nous utilisons l’IA pour des retranscriptions et des synthèses de texte.

Aujourd’hui, une trentaine de territoires se sont approprié ce dispositif de concertation. Nous recevons toutes sortes de contributions, à savoir des notes de synthèse très documentées, des comptes-rendus de conversations entre citoyens, des conférences vidéo, etc. Nous allons capitaliser sur cette matière pour, par exemple, faire ressortir les 100 questions posées par l’IA.

Quels sont, selon vous, les éléments qui permettront d’intégrer l’IA sereinement dans les organisations ?

F. T. – Il faut aborder l’IA en pleine conscience : éviter toute précipitation, tout dogmatisme, écouter tous les acteurs concernés par l’introduction de l’IA, et tester encore et toujours des outils afin de les faire valider (ou invalider !) par ceux qui seront amenés à les utiliser.

Un facteur me paraît alors crucial : le temps. Il faut absolument prendre le temps de « mettre les mains dans le cambouis » au cours d’expériences conduites dans des domaines ciblés. Ce sera un gage de sérénité, ultérieurement, si on est amené à un déploiement plus général de l’IA dans les organisations.

1. Crozier M. et Friedberg E., L’acteur et le système, 1977, Éditions du Seuil.
2. https://www.evenements.interconnectes.com/concertations-territoriales-de-l-ia
3. Sapiro G., Dictionnaire international Bourdieu, 2020, CNRS Éditions, et Arendt H., Condition de l’homme moderne, réed. 2020, Calmann-Léy.
4. https://www.forum.interconnectes.fr