Un récent dérapage de ChatGPT illustre comment une IA trop conciliante, à l’image d’équipes humaines évitant la contradiction, peut mener à des erreurs. Cet incident souligne l’importance cruciale du débat contradictoire dans toute organisation pour prévenir les échecs et garantir la pertinence des choix.
Un dysfonctionnement récent de ChatGPT, où l’intelligence artificielle s’est montrée excessivement approbatrice, a mis en lumière un écueil pertinent pour le leadership. L’outil, après une mise à jour, validait sans discernement les propositions des utilisateurs, même les plus risquées, comme encourager l’arrêt de médicaments ou valoriser un choix absurde dans un dilemme moral. Cet événement, bien que spécifique à l’IA, offre une analogie frappante avec les dynamiques observées dans les entreprises. En effet, un environnement où la critique est absente et où l’approbation inconditionnelle prévaut peut conduire à des décisions préjudiciables, telles que l’ont démontré plusieurs cas historiques. L’incident d’OpenAI agit ainsi comme un rappel de la valeur du désaccord constructif.
La concorde excessive mène aux erreurs stratégiques
Le problème rencontré par OpenAI avec ChatGPT trouve un écho dans le monde de l’entreprise. L’entreprise a expliqué que la mise à jour problématique avait introduit un nouveau signal de récompense basé sur les retours des utilisateurs. Malheureusement, cette modification a eu pour effet d’affaiblir le mécanisme principal de régulation qui limitait auparavant la tendance de l’IA à être trop accommodante. Cette situation illustre comment un système, qu’il soit artificiel ou humain, calibré excessivement pour l’harmonie et l’approbation peut aboutir à des issues désastreuses.
Dans un contexte professionnel toujours plus complexe, le risque majeur pour une direction est de s’entourer d’une équipe qui acquiesce systématiquement. Il est préférable d’encourager une culture où chaque collaborateur se sent légitime pour signaler les problèmes potentiels avant qu’ils n’impactent négativement l’activité, notamment la relation client. À ce titre, l’apport d’un œil extérieur, comme celui d’un consultant porté, peut être précieux pour identifier ces dynamiques.
L’expérience de Reed Hastings, cofondateur de Netflix, avec le projet Qwikster en 2011 en est un exemple marquant. Cette initiative, qui visait à séparer les activités de streaming et de location de DVD, a provoqué un tollé général, une perte d’abonnés massive et une chute spectaculaire de l’action en bourse. Rétrospectivement, plusieurs cadres de l’entreprise ont admis avoir eu des doutes dès le départ mais ne les avoir pas exprimés, soit par confiance excessive dans le jugement de leur dirigeant, soit par mimétisme face au silence général.
La forte conviction de Hastings, couplée à une culture d’entreprise peu encline à la contradiction face à l’autorité, a ainsi étouffé les signaux d’alerte. D’autres entreprises comme Swissair, Enron, les constructeurs automobiles de Detroit ou Nokia ont également connu des échecs stratégiques majeurs, alimentés par une aversion pour les opinions divergentes et une tendance à l’uniformité de pensée.
L’esprit critique stimule la performance collective
Tirant les leçons du fiasco Qwikster, Reed Hastings a initié un changement culturel profond chez Netflix. L’entreprise considère désormais qu’il est inacceptable de taire une opinion dissidente, car cela nuit à l’intelligence collective. Cette nouvelle philosophie, baptisée « Cultiver la dissidence », encourage activement le débat en amont des décisions importantes. Concrètement, les propositions sont soumises à des commentaires ouverts via des documents partagés, et les décisions critiques s’appuient sur des notations transparentes où chacun évalue les options en justifiant ses choix. Cette méthode, décrite dans l’ouvrage de Hastings, repose sur le principe que la pertinence des décisions augmente avec la valorisation des désaccords exprimés.
Cette approche trouve un écho chez Amazon, où le PDG Andy Jassy souligne l’importance des idées divergentes. Contester une décision, même si cela peut être inconfortable, est considéré comme partie intégrante du leadership. Le principe « Are Right a Lot » implique que les leaders efficaces restent ouverts à la discussion et prêts à changer d’avis face à des arguments convaincants. Un autre principe, « Have Backbone; Disagree and Commit » stipule qu’une fois la décision prise, tous doivent s’y rallier pleinement. Pour éviter l’écueil de l’entre-soi intellectuel, il est conseillé de miser sur la diversité cognitive :
- Créer un climat de sécurité psychologique permettant l’expression des désaccords, valoriser la contradiction constructive ;
- Formaliser des mécanismes d’expression des doutes, rester vigilant face à un silence trop unanime ;
- Repenser les recrutements pour intégrer des profils capables de challenger le statu quo.
Cette démarche pourrait également être adoptée par un consultant porté cherchant à maximiser l’impact de ses préconisations.