Pascal Picq : «L’intelligence artificielle va nous amener à repenser nos métiers»

Après la lecture des articles de cette revue, quelle est votre impression générale ?

Ce numéro me paraît parfaitement crédible et clair. Nos administrations, le service public, nos politiques et les institutions en général ont pris beaucoup de retard dans leur prise de conscience vis-à-vis de l’intelligence artificielle (IA). Elle est très importante. Il est donc nécessaire de réfléchir à toutes les inquiétudes ou aux dérives. C’était donc un exercice utile. Il faut stimuler la réflexion sans entrer dans le moralisme étriqué.

Vous l’avez dit, dans le domaine de l’IA, la France est en retard…

Ce qui est intéressant, avec la transformation numérique de nos sociétés, c’est qu’elle est partie du bas. Historiquement, ce sont quelques personnes, les hackers, au sens noble du terme, qui ont créé un accès aux ordinateurs et aux réseaux. Il y avait une véritable volonté philanthropique. Malheureusement, nos services publics n’étaient pas à la manœuvre. Ils ne se sont pas du tout intéressés à cela. Les entreprises du numérique se sont donc développées et nous ont apporté des services très utiles. Elles permettent le transport de nombreuses informations ou la multiplication des connaissances. Avec beaucoup d’utopies et de déceptions. Mais tout cela est parti de quelques entreprises venant majoritairement de Californie.

Les géants du numériques, nous ne les avons pas. Et nous ne les aurons pas. Si nous en créons un, dès qu’il dépassera un milliard de dollars, il sera mangé par les autres

Aujourd’hui avec les smartphones, tout se duplique très vite et ne coûte presque rien. Tout le monde est content avec ça. D’autant plus qu’au début cela ne touchait qu’à nos vies quotidiennes et nos manies. Mais l’administration, notamment française, s’est aperçue en se réveillant qu’il y avait aussi des problèmes. Sur le plan politique et démocratique, ces grandes entreprises ont nos données. Elles savent tout ce que l’on fait. C’est un enjeu démocratique. C’est pour cela que le réveil est compliqué mais surtout brutal.

Après la prise de conscience, quelle peut être la prochaine étape ?

Ce que je trouve intéressant, c’est que nous sommes dans un domaine qui va culturellement être compliqué pour la fonction publique. Ce n’est pas quelque chose qui va partir d’en haut, c’est-à-dire de l’État ou des grandes administrations. Alors comment agir ? Je pense que la première des nécessités c’est d’être présent sur l’éthique et les réglementations. C’est une évidence. Mais il faudra également être à la recherche de compositions et de suggestions de tous les acteurs sociaux. C’est ce qui est intéressant ! Il faut s’adapter aux changements tout en écoutant les contributions des différentes parties prenantes. C’est valable pour la France, mais également l’Europe car c’est à cette échelle que beaucoup de choses vont se jouer. Nous avons une belle occasion d’un changement culturel. Il faut poser les problématiques et ne pas aborder ces idées-là que sur l’aspect réglementaire. C’est un vrai piège si on écoute les associations de personnes qui se sentent dépassées par le monde qui arrive.

Avons-nous été tous trop naïfs vis-à-vis des géants du numérique ?

Les nouveaux services étaient tellement commodes, apportaient des facilités, et débloquaient de nombreux blocages liés à des excès de réglementation, nous sommes arrivés à des dissonances cognitives. À partir du moment où vous utilisez Uber, c’est une commodité pour vous, mais il faut savoir que vous modifiez tout un secteur économique, celui des voitures avec chauffeur. Même chose quand vous décidez de vous faire livrer votre repas ! Il faut bien avoir conscience des changements que cela entraîne. Il faut se dire que cela apporte de très grandes avancées mais qu’à un moment il faut pouvoir fixer de nouvelles règles du jeu.

Le dossier évoque à plusieurs reprises le sursaut de l’Europe dans le domaine de l’IA, quel rôle devons-nous jouer ?

Derrière le rapport de Cédric Villani, j’observe que c’est en train de bouger. L’Europe a ses défauts et ses retards mais au moins c’est un grand « pays » où est née la démocratie, où nous avons une grande diversité. C’est assez génial ! En Europe, nous avons l’opportunité de mettre en place un système de régulation qui permettrait de préserver les données personnelles, de faire en sorte que la démocratie soit respectée, d’agir sur la fiscalité, etc. La France et l’Europe ont raté le développement des géants du numérique. Mais nous avons un atout. Nous développons une véritable réflexion sur les services publics pour installer une approche démocratique, respectueuse des droits de l’Homme et des données personnelles. Ce n’est le cas ni des Américains, ni des Chinois. La France a la manie de la réglementation. Mais il faut avouer que parfois ce n’est pas si mal de vivre avec des règles. Le tout c’est que celles-ci permettent de mettre en place un projet de société avec le numérique dans le respect de nos valeurs. Cela permettra de maintenir notre rôle dans le monde.

Dans son article⁶, Hubert Guillaud parle « IA responsable ». L’Europe a donc un vrai rôle à jouer dans la définition de l’éthique de l’IA ?

Les géants du numériques, nous ne les avons pas. Et nous ne les aurons pas. Si nous en créons un, dès qu’il dépassera un milliard de dollars, il sera mangé par les autres. Le rôle de l’Europe peut, en revanche, permettre d’inscrire le numérique dans un vrai projet pour l’humanité de demain. Même les Californiens trouvent cela intéressant. Ils savent qu’ils doivent être vigilants. Les Chinois pourraient être les leaders de l’IA d’ici 2030. Dans tous les cas, le monde avance, nous ne pouvons pas l’arrêter. Mais, nous pouvons poser un cadre avec des règles du jeu qui soient respectueuses de notre démocratie et de nos valeurs. Je pense que notre administration ne doit pas être dans l’adaptation mais dans l’adaptabilité. Nous devons être capables d’avoir un processus agile. Le cadre doit affirmer des valeurs très fortes. Mais ce cadre doit pouvoir évoluer avec les changements d’usages. Il ne doit pas prendre le risque d’être un facteur de blocage. Comme le disait Michel Serres, « c’est l’arbitre qui fait le jeu ». La qualité du jeu est liée à la qualité de l’arbitrage. Il me semble que l’évolution de nos services publics doit être celle d’un arbitre. Il faut faire respecter des règles majeures mais en laissant jouer les acteurs qui mènent le match. C’est une révolution importante qui serait tout à l’honneur de nos services publics.

Et l’administration publique va être plus performante grâce à l’IA comme l’indiquent Antoine Gizardin et Romain Lucazeau dans leur article⁷ ?

Bien sûr. Et cela va être un sacré changement. Par exemple, il est tout à fait clair que les données existent depuis longtemps. Regardez la sécurité sociale, c’est un trésor. Ce qui est important, mais c’est pareil pour les grandes entreprises, c’est qu’il y aura de moins en moins l’anonymisation des concitoyens et des administrés. Nos administrations doivent donc avoir une démarche qui tient compte à la fois des différentes personnes et en même temps de leurs besoins. C’est une révolution énorme ! Jusqu’à présent, les citoyens avaient des obligations envers l’administration et par la suite ils avaient des besoins de services de la part des services publics. Les gens allaient donc faire une requête. C’est l’histoire de guichet unique. C’est une perte de temps de devoir remplir de nombreuses fois les mêmes documents. L’IA va permettre de proposer des démarches de plus en plus personnalisées. Certains disent que tout le monde n’a pas accès à Internet. Oui, mais on ne peut pas attendre tout le monde pour faire cette réforme. En revanche, il faut aider et faciliter. Cela peut être une responsabilité des services publics. Ils le font d’ailleurs parfois déjà en région. C’est une révolution extraordinaire. Ce n’est plus aux personnes d’aller vers les services publics mais la question est plutôt comment les services publics peuvent rejoindre les personnes.

Dans ce même article les auteurs se demandent si le travail des agents publics va changer…

Pour le personnel, c’est un très gros changement en termes de ressources humaines. Aujourd’hui, et cela va en faire bondir certains, je crois qu’il faut embaucher des personnes avec des compétences qu’elles ignorent. Nous n’utilisons au sein de nos métiers qu’une partie de nos compétences. Vous avez déjà dû entendre que les robots et l’IA vont nous aider à réaliser des tâches automatiques et nous aurons plus de temps pour des tâches intéressantes. Oui, c’est vrai mais incomplet. Ce n’est pas comme ça que cela va se dérouler. Ce ne sont pas les métiers qui vont disparaître, ce sont les tâches. Il faut penser à outiller les personnes et les amener à repenser les tâches de leurs métiers. C’est ça qui est nouveau. Cela veut dire qu’il faut réfléchir aux domaines où les machines sont meilleures, ceux où il y a besoin d’une collaboration homme-machine et les autres qui ne doivent être dédiés qu’aux humains. Il faut arrêter de penser l’arrivée des machines comme une substitution de nos tâches. Nous devons plutôt les repenser par rapport aux différentes possibilités. C’est une révolution culturelle.

Comment permettre à l’administration publique d’évoluer ?

Rien n’empêche cette évolution. Il y a des impondérables. La première idée, c’est qu’il y a un besoin de leadership. Il faut des personnes responsables du développement ou des nouvelles stratégies qui soient très claires sur les projets et les enjeux. Ensuite, cette transformation doit commencer en interne, entre tous les acteurs de l’administration. C’est là que l’on s’aperçoit généralement que de nombreuses personnes ont beaucoup de compétences que l’on ignorait. Les usages du numérique, nous ne les avons pas appris à l’école. Nous les avons acquis seuls. Troisième point, aussi performante que puisse être une administration, elle ne peut pas réaliser cette transformation seulement en interne. Pourquoi ? À cause de son histoire et de ses routines. Il faut aller chercher des compétences externes tout en étant vigilant.

Sur l’article de l’utilisation de l’IA dans le Grand débat national⁸, Clément Mabi se demande si l’IA apporte de l’objectivité ou de la subjectivité dans l’analyse des données. Qu’en pensez-vous ?

Dans mon livre précédent sorti en 2017, Qui va prendre le pouvoir ? Les grands singes, les hommes politiques et les robots⁹ j’avais anticipé ce qu’il s’est passé lors du mouvement des Gilets jaunes. Ce que nous n’avons pas vu venir c’est la détérioration des classes moyennes les plus modestes. Sur l’analyse des données issues du Grand débat national, nous avons pu voir l’intérêt de l’IA. C’est une ouverture sur la possibilité d’avoir des sujets sur lesquels les citoyens peuvent s’exprimer. Il y a énormément de contributions mais on peut facilement et rapidement retirer les éléments essentiels. Il faut bien comprendre que c’est ce type d’analyse que permet, par exemple, le deep learning.

Encore faut-il que les citoyens soient prêts à faire confiance aux algorithmes…

L’acceptabilité est un grand débat dans l’IA parmi les spécialistes du domaine. Je pense que c’est important quand il y a plusieurs entreprises missionnées. En mettre une, quelles que soient ses compétences, c’est se contenter de ses algorithmes. Elle a entraîné ses machines avec des fichiers qui sont les siens. Je pense qu’il est intéressant de comparer différentes méthodes. Je crois que cela a été bien fait. Plutôt que d’avoir peur de l’IA, il faut avoir conscience des problèmes qui peuvent exister pour avancer. Les outils qui existent peuvent permettre de mettre en place de nouvelles formes de gouvernance. Une autre remarque concernant l’expérience des Gilets jaunes : je pense qu’elle peut laisser une trace exceptionnelle car elle montre le besoin de mettre en place des nouveaux outils à l’échelle de notre État ou de l’Europe. Les politiques vont devoir admettre qu’il est possible de changer les façons de faire. Les citoyens pourront avoir différents moyens d’action pour la gouvernance de demain.

Une meilleure transparence des algorithmes peut-elle permettre de remettre de la confiance ?

C’est le leitmotiv actuel mais qui est vraiment capable de lire un algorithme ? En sciences, il faut faire confiance aux autres. Mais là où vous avez totalement raison, c’est qu’il est normal que l’on se pose des questions. Il y a eu des dérives et tout cela est nouveau. Ce sont de ces vrais enjeux dont je parle dans mon dernier livre. Nous devons réfléchir à comment traduire selon nos mots un langage mathématique.

Comment imaginez-vous l’administration publique et l’État dans dix ans ?

Il y a deux options. La première, c’est un monde où nous sommes dans Big brother et nous sommes totalement fichés et guidés. Nous savons déjà le faire. La seconde, et j’espère que nous arriverons plutôt à cette idée, tend vers une co-évolution entre les humains et les machines qui nous permette d’avoir des démarches personnalisées. Pas pour contrôler mais pour garantir notre modèle de société, nos valeurs et notre démocratie. Il est possible d’aller vers plus de protection des données personnelles. Mais cela nécessite notamment un changement du monde éducatif. Il ne faut pas que tout le monde puisse savoir coder mais chacun doit comprendre les enjeux pour pouvoir se garantir une véritable liberté. L’enjeu est là. Il y a la possibilité d’un monde extraordinaire comme jamais. Si nous y arrivons, nous aurons la possibilité d’une humanité ouverte plutôt que les craintes que nous avons actuellement.

Les premiers hommes sont arrivés en Afrique il y a deux millions d’années. Pendant tout ce temps, toutes les économies humaines ont été basées sur des chasseurs-collecteurs. Il y a 10 000 ans, l’agriculture est arrivée. Jusqu’à la fin du xx^e siècle, les sociétés ont évolué et se sont plus ou moins connectées entre elles. D’un seul coup, grâce au web, nous avons la possibilité d’avoir à nouveau une Humanité qui partage un même monde dans lequel les informations sont connues de tout le monde. Après 10 000 ans, de verticalisation et de globalisation, nous entrons dans une connexion des sociétés les unes aux autres. Nous pensions que d’avoir une humanité connectée, cela allait effacer les différences culturelles. Au contraire, elles s’expriment dans ces nouveaux espaces numériques. Je suis évolutionniste et darwinien, je trouve que c’est un enjeu extraordinaire car nous pouvons avoir un monde dans lequel l’humanité puisse se dire que dans toute culture est une proposition pour le monde de demain. Si on y arrive, nous aurons la possibilité d’une humanité ouverte plutôt que les craintes que nous avons actuellement.

1. Picq P., L’intelligence artificielle et les chimpanzés du futur : pour une anthropologie des intelligences, 2019, Odile Jacob.
2. Picq P., Un paléoanthropologue dans l’entreprise, 2011, Eyrolles.
3. Picq P., Qui va prendre le pouvoir ? Les grands singes, les hommes politiques et les robots, 2017, Odile Jacob.
4. Picq P., Le nouvel âge de l’Humanité, 2018, Allary.
5. Picq P., Qui va prendre le pouvoir ? Les grands singes, les hommes politiques et les robots, op. cit.
6. Guillaud H., « Vers une intelligence artificielle responsable ? », Horizons publics juill.-août 2019, n^o 10, p. 50-55.
7. Gizardin A. et Lucazeau R., « Transformer les métiers de la sphère publique avec l’intelligence artificielle », Horizons publics juill.-août 2019, n^o 10, p. 62-69.
8. Mabi C., « Intelligence artificielle et démocratie numérique : entre massification de la participation et illusion d’objectivité du traitement », Horizons publics juill.-août 2019, n° 10, p. 36-41.
9. Picq P., Qui va prendre le pouvoir ? Les grands singes, les hommes politiques et les robots, 2017, op. cit.