Outils GenAI, “control trap” et prise de décision

Les technologies d’intelligence artificielle se développent massivement et se spécialisent par domaine d’application, encourageant directement ou indirectement les managers à en tirer parti. Les outils actuels de l’IA générative peuvent aider les gestionnaires[1] à prendre des décisions stratégiques et à résoudre des problèmes dans divers contextes, du développement de produits aux conflits entre employés. ChatGPT, outil GenAI désormais courant, est même utilisé comme partenaire de débat[2] dans les processus de prise de décision managériale.

Néanmoins, interagir avec la technologie dans le cadre d’un processus de prise de décision ou de résolution de problèmes est fondamentalement différent par rapport au fait de consulter des "humains". Les systèmes GenAI, de par leur conception, sont axés sur l’efficacité, la prévisibilité et les solutions basées sur les données.

Diverses recherches récentes suggèrent que, lorsque les managers interagissent avec les outils GenAI pour les aider à prendre des décisions, ces outils peuvent les pousser par inadvertance vers des approches plus rigides et mécanistes. Plus précisément, des études révèlent que, lorsque les managers utilisent ChatGPT pour les aider à résoudre un problème lié au comportement et aux conditions de travail des employés, ils sont plus susceptibles de proposer des solutions axées sur le contrôle plutôt que sur les personnes.

Depuis des décennies, les chercheurs et praticiens en management décrivent les avantages des approches de gestion centrées sur l’humain. Il s’ensuit que, sans une réflexion appropriée, l’utilisation d’outils de l’IA générative risque de provoquer un retour involontaire à un style de gestion plus mécaniste et basé sur le contrôle, notant que les recherches ont montré que l’ancien style de management basé sur le commandement et le contrôle ne favorise pas l’engagement et la confiance des collaborateurs.

Dans ce cadre, les résultats sont clairs. Lorsque les managers consultent ChatGPT avant de proposer des solutions, l’outil renforce leur penchant pour les solutions basées sur le contrôle et la surveillance, souvent au détriment de l’autonomie et du bien-être des humains. Plus précisément, les managers qui utilisent ChatGPT sont deux fois plus susceptibles de proposer des solutions basées sur le contrôle, comme ajouter des mécanismes de surveillance et engager des auditeurs externes pour garantir la conformité, et ce, a contrario de ceux n’utilisant pas les outils de l’IA générative qui demeurent plus susceptibles de proposer des solutions liées à l’écoute et à la négociation.

De plus, lorsque nous examinons les interactions ChatGPT, il a été constaté que, même lorsque l’outil suggère des solutions plus humanistes dans un contexte d’échanges avec des participants, ces derniers proposaient in fine des solutions davantage axées sur le contrôle, la surveillance et l’efficacité que dans le cas de groupes affranchis de l’IA générative. Cela suggère que la simple utilisation de la technologie elle-même - et pas nécessairement le contenu de ses suggestions - incite les gens à fournir des réponses basées sur le contrôle plutôt que sur les personnes.

1. Eviter le "piège du contrôle"

Les outils de l’IA générative peuvent jouer un rôle bénéfique dans la prise de décision managériale. Toutefois, les résultats mettent en garde contre le fait que, si les organisations ne font pas attention à la manière dont ces outils sont intégrés dans la résolution des problèmes managériaux, elles risquent de revenir à l’époque de la "gestion scientifique", en mettant davantage l’accent sur l’efficacité et le contrôle que sur des pratiques qui tiennent compte des personnes et du contexte.

Les recherches suggèrent que les managers devraient être particulièrement prudents avec l’IA générative lorsque la résolution de problèmes a un impact sur le bien-être et les conditions de travail des employés. Dans de tels cas, l’interaction avec l’IA générative peut créer une distance psychologique entre les managers et les collaborateurs concernés.

2. Se méfier de l’effet bootstrapping des outils de l’IA générative

L’utilisation de l’IA générative a tendance à déplacer l’attention des managers de l’expérience directe et de la réflexion centrée sur l’humain à une manière de penser plus détachée et analytique.

Ainsi, l’utilisation de l’IA générative peut créer une attente selon laquelle les solutions aux problèmes doivent être "avancées" ou axées sur la technologie, conduisant à une préférence pour des solutions de contrôle et de surveillance qui exploitent des capacités technologiques. Les managers doivent devenir plus conscients de leurs préjugés cachés et être attentifs non seulement au contenu fourni par les outils d’IA, mais aussi à la manière dont l’utilisation des outils de l’IA générative peut façonner l’approche d’un individu en matière de résolution de problèmes.

A retenir : les dirigeants doivent reconnaître activement le biais d’amorçage qui peut se produire lorsqu’ils utilisent l’IA générative comme « partenaire » de résolution de problèmes dans des défis centrés sur l’humain. Lorsqu’ils utilisent l’IA générative pour soutenir la prise de décision dans la gestion des effectifs, ils doivent adopter un cadre de décision qui intègre activement le bien-être des employés et les facteurs humanistes.

3. Comprendre que les outils de l’IA générative peuvent conduire au désengagement moral

Les travaux de recherche suggèrent qu’il est probable que la nature des outils GenAI axée sur les données puisse amener les managers à considérer les collaborateurs davantage comme de simples points de données que comme des individus ayant des besoins et des circonstances uniques.

En effet, pour les managers qui utilisent la GenAI, les solutions basées sur le contrôle peuvent être perçues comme plus simples à mettre en œuvre et à gérer que des alternatives plus nuancées et centrées sur l’humain. Cela peut favoriser le désengagement moral, processus par lequel les individus se déconnectent de leur environnement et de leurs valeurs morales et transfèrent la responsabilité des décisions à un tiers au lieu de se tenir pour responsable.

Pour éviter ce résultat, les managers doivent délibérément rechercher le point de vue direct des employés sur les problèmes identifiés. Dans la mesure du possible, ils doivent contextualiser la situation du point de vue de l’employé pour obtenir des informations que les chiffres et les données seuls ne peuvent pas fournir.

A retenir : les managers doivent régulièrement dialoguer avec les employés et solliciter leur avis pour équilibrer et nuancer les suggestions basées sur la seule GenAI avec les informations tirées des expériences réelles des collaborateurs et autres stakeholders.

4. Mettre en exergue la transparence lors de l’utilisation des outils de l’IA générative

De nombreux employés ne savent pas comment les outils de l’IA influencent les décisions de leur entreprise concernant leurs performances et horaires de travail. Ce manque de transparence peut amener les gens à essayer de contourner le système.

Lorsque les organisations laissent les employés dans l’ignorance quant à la manière dont les systèmes GenAI évaluent leurs performances, déterminent leurs horaires ou ajustent leurs conditions de travail, les dirigeants peuvent favoriser un environnement de méfiance et subir des conséquences imprévues.

Ce type de manque de communication peut également entraîner une augmentation du stress chez les travailleurs qui peuvent avoir l’impression d’être jugés par un système impénétrable et potentiellement injuste. Sans une compréhension claire des mesures et du raisonnement qui sous-tendent les évaluations basées sur l’IA, les employés risquent de se sentir peu motivés pour améliorer leurs performances. Les organisations doivent donc privilégier la transparence et des canaux de communication clairs sur l’utilisation de l’IA, expliciter les raisons sous-jacentes des décisions des dirigeants et créer des mécanismes de feedback et d’appel à la disposition des employés.

A retenir : les dirigeants doivent mettre en œuvre des politiques de communication et d’explicitation claires concernant le moment et la manière dont la GenAI est utilisée et les données prises en compte dans les décisions de gestion.

En conclusion, depuis la révolution industrielle, les organisations ont élargi leur réflexion au-delà des principes de gestion scientifique axés sur l’efficacité prônés par Frederick Winslow Taylor. Les dirigeants ont progressivement affiné leurs approches de gestion pour équilibrer la productivité avec le bien-être et la satisfaction des employés. Les travaux de recherche ont démontré les nombreux avantages en termes de performance et de productivité qui découlent de pratiques de gestion centrées sur l’humain, telles que l’octroi d’une plus grande autonomie aux personnes, la création de groupes de travail autogérés et la valorisation des contributions des travailleurs à la motivation et aux conditions de travail[3].

Plusieurs recherches récentes montrent que, lorsque les dirigeants utilisent l’IA générative pour la prise de décision, ces outils peuvent les conduire sur une voie indésirable, vers un style de gestion axé sur le contrôle.

Le défi pour les dirigeants sera d’exploiter la puissance des outils GenAI tout en restant fidèles à ce que nous avons appris sur l’importance de l’autonomie, de l’engagement et du bien-être des employés. Cet équilibre nécessitera un dialogue continu entre les dirigeants et les employés (et même les développeurs des outils GenAI) pour garantir que les avancées technologiques servent à améliorer, plutôt qu’à affaiblir, le rôle de l’élément humain dans les organisations.

[1] S. Raisch and S. Krakowski, “Artificial Intelligence and Management: The Automation-Augmentation Paradox,” Academy of Management Review 46, no. 1 (January 2021): 192-210.

[2] T. Ramge and V. Mayer-Schönberger, “Using ChatGPT to Make Better Decisions,” Harvard Business Review, August 24, 2023.

[3] P.E. Spector, “Perceived Control by Employees: A Meta-Analysis of Studies Concerning Autonomy and Participation at Work,” Human Relations 39, no. 11 (November 1986): 1005-1016; and T.W.H. Ng and D.C. Feldman, “Employee Voice Behavior: A Meta-Analytic Test of the Conservation of Resources Framework,” Journal of Organizational Behavior 33, no. 2 (February 2012): 216-234.