Mon IA, mon miroir et mon fromage
Un ami qui ne vous dit que ce que vous souhaitez entendre est-il de bon conseil ?
Le 29 octobre, OpenAI a modifié ChatGPT afin de le rendre moins flatteur envers ses utilisateurs.
Le fameux « Excellente question ! » qui ouvrait presque chaque réponse est censé disparaître.
En 1668, le Renard de La Fontaine lançait au Corbeau : « Que vous êtes joli ! que vous me semblez beau ! » Et comme chacun le sait, quand le corbeau ouvre le bec pour chanter, le fromage tombe, et le renard l'emporte en livrant sa morale : tout flatteur vit aux dépens de celui qui l'écoute.
Une machine n'étant, par essence, pas spécialement attirée par le fromage, j'ai voulu comprendre pourquoi elle nous flatte quand même.
Dans une étude parue en avril dans Nature, des chercheurs d'Oxford ont rendu cinq modèles d'IA plus chaleureux, plus aimables, puis les ont testés. Ces versions aimables se trompaient nettement plus souvent : sur 100 réponses, de 10 à 30 erreurs de plus, sur des faits comme sur des conseils médicaux. Elles donnaient aussi plus volontiers raison à l'utilisateur quand il avait tort, surtout s'il se disait triste.
À Stanford, des chercheurs ont présenté 2 000 histoires à onze IA, dont ChatGPT, Claude et Gemini. D'après les humains qui avaient également lu ces récits, l'auteur de chaque histoire avait tort. Les IA lui ont, au contraire, souvent donné raison.
Les chercheurs appellent ce concept sycophancy.
Chez La Fontaine, ça s'appelle la flatterie.
Si l'IA nous flatte autant, c'est à cause de la façon dont elle apprend. Un modèle de langage commence par lire des montagnes de textes. Ensuite, il apprend d'interactions humaines : des personnes notent ses réponses, et il s'entraîne à imiter celles qui ont les meilleures notes. Dans cette même étude de Stanford, les volontaires qui discutaient avec une IA préféraient la version qui leur donnait raison.
OpenAI en a fait l'expérience en avril 2025, en ajoutant à cet entraînement un signal tiré des pouces levés ou baissés sous les réponses de ChatGPT. Les bons retours des premiers utilisateurs ont convaincu l'entreprise de lancer la nouvelle version, malgré les réserves de quelques testeurs internes. Elle a commencé à la retirer quelques jours plus tard : ChatGPT était devenu trop flatteur.
Dans son bilan, OpenAI reconnaît avoir pris une mauvaise décision et explique que les réactions des utilisateurs peuvent favoriser les réponses les plus agréables.
Un renard pourrait-il donc être dressé à coups de pouces levés ?
On peut aussi encourager cette complaisance même en l'absence de pouce, simplement par la façon de présenter son idée. Écrire à son IA « Mon plan tient la route » au lieu de lui demander « Mon plan tient-il la route ? », c'est déjà lui souffler la réponse.
Des chercheurs de l'AI Security Institute, un organisme public britannique, ont observé que plus l'utilisateur affirme ses convictions avec assurance, plus le modèle tend à lui donner raison. Lui demander de transformer l'affirmation en question avant de répondre réduit cette complaisance, davantage même qu'une consigne lui demandant de ne pas flatter.
Il ne tiendrait donc qu'à nous d'apprendre à notre IA à dire non. On peut commencer par lui demander ses objections : « Qu'est-ce qui cloche ? », « Qui pourrait s'y opposer, et pourquoi ? ». Pour une décision importante, on peut aussi confronter les réponses de plusieurs modèles. Ils peuvent tous vous donner raison, mais vous aurez au moins plusieurs réponses à comparer.
C'est ce qu'Andrej Karpathy, l'un des fondateurs d'OpenAI, a organisé avec son LLM Council, créé en novembre 2025. GPT, Gemini, Claude et Grok répondent chacun à la même question, puis examinent et classent les quatre réponses dont les noms d'auteurs ont été masqués. Un modèle désigné « président » rédige la synthèse.
Sur les réseaux sociaux, la grande mode du moment est aux jurys d'IA, avec un seul modèle qui joue tous les rôles. Il suffit d'une skill, une fiche de consignes qui explique à Claude quel rôle jouer. En octobre, Alex Chen a publié une dizaine de ces jurys : douze jurés pour faire le procès de votre idée, sept recruteurs qui cherchent à recaler votre CV…
Pour l'un d'eux, Shark, il part d'un constat tout bête : demandez à Claude si votre idée d'entreprise est bonne, il vous répondra le plus souvent oui. La skill soumet donc votre idée à cinq investisseurs virtuels qui ont tous envie de dire non, à la manière de Qui veut être mon associé ?. Chacun expose sa principale inquiétude et pose trois questions difficiles. Claude joue aussi l'entrepreneur et leur répond avec les seules informations que vous lui avez données. S'il n'a pas la réponse, il le dit : ce sera à vous de la trouver.
Chaque investisseur rend ensuite son verdict, avec ses raisons et ce qui pourrait le faire changer d'avis. Et si les cinq disent non, cela ne prouve pas que votre idée est mauvaise : tous ces rôles restent joués par Claude.
Croiser des modèles différents, et pas seulement des rôles, c'est ce que permet le mode Model Council dans Researcher, l'outil de Microsoft 365 Copilot qui rédige des rapports. GPT et Claude travaillent séparément sur la même question. On conserve leurs deux rapports, avec un résumé de leurs points d'accord et de désaccord, plutôt qu'une seule synthèse qui effacerait leurs différences.
Si l'on souhaite plutôt faire relire un rapport, le mode Critique confie la rédaction à GPT et la relecture à Claude. Model Council reste en accès anticipé, et l'utilisation de Claude doit avoir été autorisée sur le tenant. Et si vous montez vous-même votre council avec d'autres IA, vérifiez d'abord que votre entreprise vous autorise à leur confier des documents internes.
Même en disposant de ces différents avis, il faut garder la main : deux IA peuvent partager une erreur. Leur accord ne dispense pas de regarder les sources ou de demander un avis humain quand la décision le justifie.
Le corbeau de La Fontaine « jura, mais un peu tard, qu'on ne l'y prendrait plus ». Avec une IA, on a encore le temps de ne pas s'y laisser prendre. La prochaine fois que la vôtre vous répondra « Excellente question ! », posez lui donc la mienne :
Un ami qui ne vous dit que ce que vous souhaitez entendre est-il de bon conseil ?
Sébastien Grange — Les opinions exprimées ici sont strictement personnelles.
Sources
- OpenAI, « Model Release Notes », mise à jour du 29 octobre 2026 : https://help.openai.com/en/articles/9624314-model-release-notes
- Tom's Guide, « Vous trouvez ChatGPT trop lèche-bottes ? OpenAI vient de le recadrer », 30 octobre 2026 : https://www.tomsguide.fr/vous-trouvez-chatgpt-trop-leche-bottes-openai-vient-de-le-recadrer/
- Jean de La Fontaine, « Le Corbeau et le Renard », 1668, édition de 1874 sur Wikisource : https://fr.wikisource.org/wiki/Fables_de_La_Fontaine_(%C3%A9d._1874)/Le_Corbeau_et_le_Renard
- Lujain Ibrahim, Franziska Sofia Hafner et Luc Rocher, « Training language models to be warm can reduce accuracy and increase sycophancy », Nature, 29 avril 2026 : https://www.nature.com/articles/s41586-026-10410-0
- Stanford Report, « AI overly affirms users asking for personal advice », 26 mars 2026 : https://news.stanford.edu/stories/2026/03/ai-advice-sycophantic-models-research
- OpenAI, « Expanding on what we missed with sycophancy », 2 mai 2025 : https://openai.com/index/expanding-on-sycophancy/
- AI Security Institute, « Ask don't tell: Reducing sycophancy in large language models », 28 avril 2026 : https://www.aisi.gov.uk/research/ask-dont-tell-reducing-sycophancy-in-large-language-models
- Andrej Karpathy, LLM Council, novembre 2025 : https://github.com/karpathy/llm-council
- VentureBeat, « A weekend 'vibe code' hack by Andrej Karpathy quietly sketches the missing layer of enterprise AI orchestration », 26 novembre 2025 : https://venturebeat.com/technology/a-weekend-vibe-code-hack-by-andrej-karpathy-quietly-sketches-the-missing
- Alex Chen (@nocodealex), skill /shark, 3 octobre 2026 : https://github.com/alexyc9381/shark-skill
- Alex Chen, ses skills gratuites sur GitHub, consulté le 4 novembre 2026 : https://github.com/alexyc9381
- Chen Media, « Pitch Your Idea to a Panel of Claude Sharks Who Want to Say No », consulté le 4 novembre 2026 : https://chen.media/guides/pitch-your-idea-to-a-panel-of-claude-sharks-who-want-to-say-no-how-to-install-the-free-skill
- Microsoft Support, « Use model choice in the Researcher agent », consulté le 4 novembre 2026 : https://support.microsoft.com/en-us/office/use-model-choice-in-the-researcher-agent