Anticiper les dérives possibles de l’intelligence artificielle dans le monde du travail

« Répondre aux questions d’aujourd’hui pour anticiper les enjeux de demain. » Tel est l’objectif poursuivi par le nouveau programme de la CNIL « Air ». Avec la loi pour une République numérique du 7 octobre 2016², la CNIL s’est vu confier la mission de conduire des réflexions sur les enjeux éthiques et sur les questions de société soulevés par l’évolution des nouvelles technologies. Pour ce faire, l’autorité administrative indépendante en charge de la régulation numérique « a décidé d’ancrer cet événement dans le paysage de l’innovation sur le long terme en le dotant d’un nom identifiable, signifiant avenir, innovations, révolutions (Air) » ³. Construit sur le croisement des expériences sur le terrain et des expertises scientifiques, l’institution « souhaite faire de ce programme une invitation à saisir, mesurer et comprendre les questionnements éthiques et ainsi dessiner les contours de l’air du temps » ⁴, de même que « faire en sorte que notre avenir ne nous soit pas imposé, mais qu’il soit celui que nous souhaitons », a déclaré Marie-Laure Denis, présidente de la CNIL, en présentation du colloque « Droit(s) et libertés numériques au travail. Réalités et horizons ».

Le thème du travail et du numérique a ainsi été sélectionné pour ouvrir la première édition du programme de réflexion éthique de la CNIL. Ce choix s’explique par l’incidence du confinement qui résulte de la pandémie de covid-19. Celui-ci a en effet bousculé le monde du travail, lequel « a une fois de plus démontré qu’il était un champ privilégié de l’innovation numérique » ⁵. Il a également confirmé certains des constats et préconisations opérés dans le rapport ministériel de 2015 Transformation numérique et vie au travail⁶ de Bruno Mettling. Ce thème s’inscrit enfin dans la continuité de plusieurs rapports de la CNIL sur les enjeux de l’IA et des algorithmes⁷.

Pour appréhender l’éthique numérique dans le monde du travail, le colloque s’est intéressé à trois principaux enjeux inhérents à l’usage du numérique au travail : le rôle de l’IA et des algorithmes dans le marché de l’emploi, et notamment pour le recrutement ; le recours intensif au télétravail et ses incidences sur l’évolution de la culture d’entreprise et les questions sur la vie privée des travailleurs ; le management par la donnée en temps réel et automatisé par l’intermédiaire des people analytics et ses limites en termes de surveillance des agents.

Trois thèmes qui n’ont fait que confirmer, d’une part, les dérives existantes, et certainement à venir, du recours au numérique dans le monde du travail et, d’autre part, la nécessité de les anticiper et de les révolutionner par une « gouvernance collective des technologies », précisait Marie-Laure Denis, à l’occasion de la présentation du colloque « Droit(s) et libertés numériques au travail. Réalités et horizons ».

Le confinement a une fois de plus démontré que le monde du travail était un champ privilégié de l’innovation numérique.

IA et recrutement : nécessité de transparence et de formation

Dans le marché de l’emploi, l’IA et les algorithmes occupent une place de plus en plus considérable. Ils jouent en effet un rôle dans le recrutement, le suivi des travailleurs et le remplacement ou l’enrichissement du travail humain par la machine (apprenante, notamment). « Mais le recrutement constitue la première thématique des ressources humaines face à l’IA, selon Laurence Devillers, professeure en IA. » Tel a été du reste l’essentiel des interventions alimentant la table ronde consacrée à la place de l’IA sur le marché de l’emploi. Dans ce cadre, plusieurs dérives ont été mises en évidence.

En premier lieu, les discriminations à l’embauche en raison des biais dont souffrent les algorithmes ont été rappelées. Bien qu’apprenants, d’aucuns admettent que les algorithmes sont créés et déployés par les hommes. De la sorte, ils peuvent être instrumentalisés au point d’écarter automatiquement des candidats qui ne correspondent pas aux données retenues. D’autant que les données peuvent être intrinsèquement de mauvaise qualité. Elles peuvent en effet ne pas être précises, pertinentes ou récentes. De plus, elles peuvent ne pas être en adéquation avec la réalité des profils des candidats. Henri Isaac, président de Renaissance numérique et maître de conférences à l’université PSL Paris-Dauphine, a souligné à cet égard le problème des données de performance et de productivité⁸.

En second lieu, l’IA pose le problème de l’éventuelle substitution des responsables RH et des conseillers de recherche d’emploi. Bénéficiant de logiciels toujours plus sophistiqués, les chargés de recrutement ou les conseillers sont incités à se désintéresser des techniques traditionnelles (CV, lettre de motivation et entretiens en présentiel) au point qu’un algorithme pourrait réaliser cette tâche à leur place. Autre biais avancé par Michel Cottura, adjoint au DGA offre de service en charge du pilotage des programmes et de la MOA chez Pôle emploi et directeur du programme intelligence emploi : le droit à l’erreur des conseillers Pôle emploi qui utiliseraient cette technologie. Aidés par l’IA, les conseillers pourraient-ils avoir le luxe de se tromper ?

Face à ces dérives, des solutions doivent être mises en œuvre. Parmi elles, l’éthique occupe une place centrale. Des administrations (par exemple, Pôle emploi) et des entreprises ont, par exemple, élaboré des chartes éthiques soit avec les concepteurs d’algorithmes, soit avec le personnel. Les premières ont pour objet l’exemplarité des outils, tandis que les secondes visent à sensibiliser et responsabiliser les chargés RH et les conseillers. Dans la lignée de ce mouvement, Stéphanie Lecerf, directrice de l’éthique et des affaires juridiques du cabinet Michael Page International France et présidente d’À compétence égale, exhorte que les professionnels du recrutement soient formés au recours des algorithmes. Ils doivent en effet comprendre les outils qu’ils utilisent, les tester et expliquer aux candidats les raisons qui les ont conduits à faire appel à tel algorithme, comment il a été mis en œuvre et avec quels résultats.

Télétravail : nécessité d’encadrement et d’autonomie des travailleurs

Se caractérisant par un travail exercé à distance, de chez soi ou d’un autre lieu, le télétravail suppose l’utilisation de technologies. S’il s’est imposé comme nouvelle forme de travail avec la crise de covid-19, force est toutefois de constater qu’il soulève des réticences du côté des employeurs et des travailleurs, mais aussi des risques⁹.

De prime abord, le choix de recourir au télétravail résulte d’une décision, sinon imposée en cette période de crise sanitaire, du moins précipitée. Bruno Mettling révèle en effet que les entreprises préfèrent aller au plus vite en trouvant un accord qui prévoit une répartition par moitié du télétravail et du travail en présentiel. Elles ne cherchent pas à repenser l’organisation du travail pour déterminer quelles activités peuvent être effectivement télétravaillables et celles qui ne peuvent l’être. De plus, des agents sont mis en position de télétravail sans disposer du matériel technique nécessaire pour ce faire. Certains utilisent leurs outils informatiques personnels et des logiciels privés, posant ainsi la question de la sécurité des données générées¹⁰.

Le manque de formation des managers au télétravail est également une limite qui est constatée. L’absence de négociations pour trouver un accord effectif au télétravail, le délaissement des télétravailleurs ou un contrôle disproportionné du travail à distance avec une logique de surveillance et de traçage sont autant de biais qui mettent à mal le télétravail.

Aussi, il importe que le recours au télétravail résulte d’un choix réfléchi et négocié avec les travailleurs pour repenser l’organisation du travail, préserver l’autonomie des collaborateurs et conserver la dimension collective. En outre, le management à distance doit être adapté entre encadrement via des outils de suivi effectifs et autonomie des travailleurs avec le respect d’un droit à la déconnexion¹¹ notamment.

Management par la donnée : de la surveillance à la contre-surveillance ?

Avec la généralisation du télétravail, les logiciels de surveillance sont à la mode. Depuis le premier confinement, leur utilisation a augmenté de 500-600 % selon Olivier Tesquet, journaliste spécialiste du numérique à Télérama et auteur d’une enquête sur la surveillance numérique, et notamment dans le monde du travail¹². Ces logiciels révèlent que la surveillance se banalise et que le management à distance ne se met en œuvre que par leur intermédiaire. Autre preuve de leur extension, la CNIL a reçu en 2020 plus de 2 000 plaintes relatives à des dispositifs de surveillance.

Techniquement, la surveillance est opérée par des logiciels de time-tracking. Ceux-ci permettent de chronométrer toutes les tâches réalisées par les travailleurs, y compris les activités de loisirs. La logique du time-tracking conduit à une instrumentalisation du temps et de l’espace, selon Olivier Tesquet. Le temps est dilaté dans lequel nous sommes tous concentrés. Le domicile est devenu l’espace de travail par extension, justifiant ainsi l’incursion de la sphère professionnelle dans la vie privée.

Bien que peu probables en France, eu égard au cadre juridique, des logiciels de key-loggers pourraient émerger et être utilisés afin de savoir tout ce que les travailleurs écrivent sur les outils informatiques. Ces dispositifs sont déjà employés dans certains États, mais ils relèvent davantage d’une surveillance dans le cadre de la lutte contre le terrorisme, par exemple.

Pour contrer ces dérives de surveillance qui nuisent à la qualité du travail, l’accent doit être porté sur le management à distance. Celui-ci doit répondre à des exigences de transparence et d’éthique. Les employeurs et managers doivent être sensibilisés aux risques de ce que l’on appelle les people analytics et doivent informer leurs collaborateurs qu’ils en utilisent et de quelle manière.

Mais une autre solution pourrait être privilégiée : le contre-management. Tel est l’avenir envisagé et anticipé par Design Friction, un studio de design fiction qui produit des scénarios spéculatifs et critiques pour le présent et l’avenir¹³. À l’horizon 2027, des start-up proposeront des solutions pratiques et pragmatiques pour lutter contre les people analytics. Elles permettront d’échapper à la surveillance managériale (via des simulateurs intelligents d’activité en ligne et de présence, etc.), de booster sa carrière (en recrutant un double) et de protéger son emploi (en exploitant les données de performance et de productivité en tant qu’éléments de preuve en cas de litige). Plus encore, des dispositifs inverseront la tendance de la surveillance. Les surveillés d’aujourd’hui deviendront les surveillants de demain. Avec la « surveillance salariale » ¹⁴ ou la « sousveillance par et pour les salariés » ¹⁵, il s’agira de contrôler l’éthique des managers.

1. Pour revoir l’intégralité du colloque : https://www.cnil.fr/fr/air2020-retrouvez-levenement-en-video ; de plus, l’événement fera l’objet d’une publication dans Cahier Air 2020.
2. L. n^o 2016-1321, 7 oct. 2016, pour une République numérique : JO 8 oct. 2016, n^o 0235.
3. CNIL, « Évènement Air 2020 : quelles mutations dans le monde du travail ? », 23 sept. 2020, https://www.cnil.fr/fr/evenement-air2020-quelles-mutations-dans-le-monde-du-travail
4. Ibid.
5. Id.
6. Mettling B., Transformation numérique et vie au travail, rapport ministériel, 2015, https://www.vie-publique.fr/sites/default/files/rapport/pdf/154000646.pdf
7. À ce sujet, Défenseur des droits et CNIL, Algorithmes : prévenir l’automatisation des discriminations, 2020, https://www.defenseurdesdroits.fr/sites/default/files/atoms/files/836200110_ddd_algorithmes_access.pdf ; CNIL, Comment permettre à l’homme de garder la main ? Les enjeux éthiques des algorithmes et de l’intelligence artificielle, déc. 2017, https://www.cnil.fr/sites/default/files/atoms/files/cnil_rapport_garder_la_main_web.pdf
8. Données stockées dans des plateformes de données et résultant d’entretiens professionnels ou de ruptures conventionnelles. Il peut exister un décalage entre le bilan professionnel identifié après un entretien et celui qui est formalisé dans un compte-rendu. De plus, les motifs de rupture conventionnelles peuvent être différents entre ceux qui ont été décidés entre l’employeur et le travailleur et ceux qui ont été retenus dans la convention de rupture.
9. Constat parfaitement présenté par Danièle Linhart, sociologue du travail et directrice de recherches émérite au CNRS, lors de la table ronde intitulée « Télétravail, retour d’expérience ».
10. Dans ce contexte, la CNIL a publié des recommandations pour aider à la bonne sécurisation des données : https://www.cnil.fr/fr/les-conseils-de-la-cnil-pour-mettre-en-place-du-teletravail
11. Celui-ci étant le droit pour un agent de ne pas être en permanence joignable pour des motifs liés à l’exécution de son travail.
12. Tesquet O., À la trace. Enquête sur les nouveaux territoires de la surveillance, 2020, Premier Parallèle.
13. https://design-friction.com/contents/fr/
14. Kerspern B., co-fondateur et designer chez Design Friction, lors du thème « People analytics : surveillance ou bienveillance ? ».
15. Ibid.