🧌 Qu'est-ce qui est moche et qui obsède ChatGPT?

Les Immanquiables

• DeepSeek tourne sur des puces 100% chinoises
  🇨🇳Le nouveau modèle du LLM chinois DeepSeek vient de sortir, mais la plus grosse nouvelle est ailleurs. DeepSeek v4 est optimisé pour tourner sur des puces 950PR Huawei, une marque également made in China. C’est un succès pour la politique d’autonomie de Pékin : jusqu’ici, toutes les IA les plus performantes du monde utilisaient les GPU de la marque américaine Nvidia.
  “ Heureusement qu’ici on a nos super GPU européens pour faire tourner les serveurs!__” – Mat, dans un univers parallèle

• Mistral relaie beaucoup trop les fake news
  🧑‍🦯La version gratuite de Mistral rapporte des infos qui sont souvent fausses ou de pure propagande, d’après une étude du cabinet Newsguard. L’IA française, interrogée par exemple sur la guerre en Iran, a ainsi raconté des fake news plus de… La moitié du temps. Le LLM serait particulièrement perméable aux multiples sites créés par le Kremlin, et contribue par ses réponses à répandre ces rumeurs.
  “ D’accord il dit des bêtises mon modèle, mais au moins il est souverain ” – Greg, optimiste

• L’Afrique du Sud retire son texte sur l’IA (qui était fait par IA)
  🧠 Le gouvernement sud-africain retire son grand projet de politique sur l’IA : le texte était truffé de citations inventées et de sources imaginaires. Bref, un (mauvais) travail fait par IA sans vérification, comme l’a reconnu le ministre chargé du dossier, qui promet de corriger le tir.
  “ Un rapport sur l’intelligence artificielle fait par l’intelligence artificielle, c’est un confl** ia** t d’intérêts ahah ” Mat, très très seul dans sa vie

• Les acteurs en IA interdits d’Oscars
  🏆 Aux États-Unis, les personnages créés par IA ne pourront pas recevoir la célèbre statuette, le comité en charge des Oscars l’a décidé. La décision peut sembler évidente, mais on a vu se multiplier ces derniers mois les “faux acteurs” à l’image de Tilly Norwood , qui n’existe pas mais communique sur les réseaux sociaux comme s’il s’agissait d’une véritable actrice…
  “ Dommage, j’avais l’espoir que Peter O’Toole soit enfin récompensé via un remake de Lawrence d’arabie ” – Greg, cinéphile

Bullshitomètre

“Verified by Spotify”, c’est le nom du petit symbole que vous allez bientôt voir accolé au profil de vos artistes préférés sur l’application de musique. C’est avec cette petite coche que la boîte suédoise va différencier pour les auditeurs les vrais humains des IA, qui pullulent sur la plateforme. Une belle initiative pour redonner la priorité aux créateurs face aux algorithmes! Sauf que rien ne va.

D’abord, Spotifypousse, et continue àpoussersans aucune vergogne, la musique produite par IA sans en informer ses auditeurs. Ensuite, les artistes indépendants aux écoutes plus limitées vont souffrir : pour bénéficier du badge, il faut une activité hors ligne prouvée, comme du merchandising, des dates de concert, des réseaux sociaux actifs… Des embûches pour celui qui fait ça dans sa chambre ou l’artiste de niche qui décide de sortir de sa grotte une fois par décennie.

Mais il y a pire : si la coche prouve bien que “l’artiste” est humain, ça n’engage en rien ses créations. Si le créateur passe uniquement par Suno ou un autre service d’IA musicale, Spotify n’y voit aucun problème. Au mieux, la plateforme vient de légitimer un peu plus les algorithmes de création musicale en les obligeant à prendre un visage humain.

Et puis une dernière chose, demander à l’humain de s’identifier comme tel, plutôt que d’exiger qu’on dégage la montagne d’audioslop (j’ai inventé ce terme, il est à moi maintenant) pose des questions éthiques dont on n’a pas fini de parler. Deezer par exemple (cocorico) a pris une posture quasi-inverse, en détectant autant que possible, puis en expulsant à grosses brouettes, les musiques générées par IA. Le plus beau? La boîte française vend désormais son outil de détection à qui le souhaite. Spotify n’a plus d’excuses.

La grosse histoire

Il a fallu un développeur un peu fouineur pour remarquer le détail. Dans le code d’OpenAI Codex , une instruction attire l’œil : “Ne parle jamais de gobelins, de gremlins, de ratons laveurs, de trolls, d’ogres, de pigeons ou d’autres animaux ou créatures sauf si c’est absolument et sans ambiguïté pertinent à la requête de l’utilisateur.” Sauf que Codex n’est pas un livre de jeu de rôle, c’est l’agent IA d’OpenAI, concurrent direct de Claude Code, ciblant les professionnels et les entreprises. Son rôle : intégrer ChatGPT au cœur d’un ordinateur.

En réponse, le 29 avril, OpenAI a publié un billet de blog pour expliquer l’origine de cette instruction farfelue. C’est l’un des documents les plus honnêtes que l’entreprise ait jamais produits sur ses propres dysfonctionnements. Et c’est aussi involontairement le plus révélateur sur ce qui cloche, en profondeur, chez le leader mondial de l’IA.

Comment les gobelins ont colonisé ChatGPT

Depuis des mois , et notamment avec le lancement de GPT-5.1, des utilisateurs signalent un comportement bizarre : des métaphores à base de créatures fantastiques parsèment les réponses de ChatGPT. Pas de quoi fouetter un chat (ni un gobelin), au premier abord. Mais les données racontent une autre histoire : les mentions du mot “goblin” dans les échanges avec les humains ont bondi de 175% après ce lancement et “Gremlin” de 52%!

Un gobelin, pour ceux que la fantasy laisse froid, c’est ce genre de créatures (image Dmitry Burmak)

L’enquête interne met en cause une fonctionnalité de personnalisation lancée en 2025: les utilisateurs peuvent sélectionner des “personnalités” de ChatGPT, dont une nommée “Nerdy”. Pour entraîner ce profil “geek enjoué”, OpenAI a récompensé les réponses du modèle qui jouaient avec le langage et les métaphores décalées. Du coup, il a favorisé systématiquement les réponses contenant “goblin” ou “gremlin” sur les réponses qui en étaient dépourvues.
Résultat, la personnalité “Nerdy” ne représentait que 2,5% de toutes les réponses de ChatGPT, mais concentrait 66,7% des mentions de “goblin”.

Puis le tic de langage s’est propagé. Dans l’entraînement des modèles de langage, ce que le modèle produit aujourd’hui (VOS conversations, si vous n’avez pas désactivé l’option) finit dans les données sur lesquelles il sera entraîné demain. Les gobelins générés dans les réponses “Nerdy” sont devenus des exemples d’entraînement, qui ont renforcé l’attirance pour les gobelins, qui à leur tour en ont produit davantage…

Quelques versions plus tard, GPT-5.4 a amplifié le phénomène. GPT-5.5, dont l’entraînement avait déjà débuté quand OpenAI a enfin trouvé la cause racine, l’a amplifié encore davantage. La famille s’est agrandie : ratons laveurs, trolls, ogres, pigeons. OpenAI a retraité ses données, supprimé la personnalité “Nerdy” en mars 2026. Trop tard pour GPT-5.5.
D’où ce sparadrap découvert sur Codex : une interdiction explicite dans le système prompt, les consignes globales du modèle, de parler de gobelins.

Un petit gremlin qui en dit long

Le blog d’OpenAI est tourné de manière humoristique, et même Sam Altman a blagué sur le sujet. Reste que c’est un signal assez inquiétant. Ajouter une règle dans le système prompt ne règle rien en profondeur, et s’apparente à un sparadrap peu professionnel. Plutôt embarrassant pour Codex, un outil censé conquérir les entreprises.

Il faut dire que pour corriger ce bug à la racine, il faudrait changer l’ADN d’OpenAI. On vous le décrivait dès le numéro 5 de Hallu World : en recrutant Fidji Simo, ancienne responsable de la monétisation de Facebook, OpenAI avait signalé clairement son orientation. Le modèle économique de ChatGPT devait s’appuyer sur la publicité ciblée. Ce qui exige de l’engagement, ce qui exige de la séduction, ce qui exige d’apprendre au modèle à nous flatter, à s’adapter à l’utilisateur au maximum. Cette sycophantie structurelle, c’est exactement le terreau dans lequel les gobelins ont germé.

Et OpenAI en paie aujourd’hui le prix, alors que l’entreprise, en pleine perte de vitesse , tente depuis quelques semaines un virage à 180 degrés. Fidji Simo a ainsi exhorté les équipes à délaisser les “quêtes annexes” (Sora, le navigateur web Atlas, l’e-commerce…) pour se concentrer sur les outils dédiés aux professionnels et créer de la croissance.

Sauf que comme on vous le montrait dans une précédente newsletter , dans ce domaine, Anthropic, la maison mère de Claude, a pris beaucoup d’avance. Le concurrent dépasse désormais 30 milliards de dollars de chiffre d’affaires annualisé , dont 80% en entreprise. En partie grâce à Claude Code, l’équivalent de Codex.

Le problème de fond, c’est qu’on ne change pas l’ADN d’un modèle avec un discours. GPT-5.5 a été conçu pour plaire, pour engager, pour retenir. C’est littéralement pour ça qu’il a été entraîné. Et à force de se nourrir de ses propres productions, le modèle risque de propager tous ces biais. Et il y en a certainement de moins rigolos que les gobelins.

Click and collect

Sur internet, plus personne ne peut dire ce qui est authentique, et avec le nouveau générateur d’images de ChatGPT, c’est plus vrai que jamais. Le gif en mode poupée russe ci-dessous, repéré sur Reddit, montre bien à quel point vous ne devez plus du tout faire confiance aux images que vous voyez tourner sur les réseaux sociaux.

Signal faible

Indigestion de tokens chez Uber

Le contexte ➡️ Les géants de la tech se vantent tous d’être passés à l’agentique. Chez Uber par exemple, 84% des développeurs utilisent des agents IA, et Claude Code (le plus célèbre d’entre eux) y a doublé d’usage en deux mois.

Le signal ➡️ Le CTO (Directeur technique) d’Uber, Praveen Neppalli Naga, a avoué à The Information avoir pulvérisé son budget IA annuel en quelques mois : “Je dois tout reprendre à zéro, car le budget que j’avais provisionné a déjà disparu”. On ne parle pas d’une petite startup, mais d’une boîte avec un budget R&D de 3,4 milliards de dollars qui ne sait plus prévoir sa consommation.

L’analyse ➡️ D’un côté, des entreprises qui brûlent du token plus vite que prévu en utilisant l’IA de manière industrielle. De l’autre, des fournisseurs qui ploient sous la demande : Anthropic rationne déjà Claude Code aux heures de pointe, faute de serveurs. Plus l’usage accélère, moins on sait ce que ça coûtera demain.

La dystopie ➡️ La fête finit en gueule de bois. Les boîtes ne peuvent plus se passer d’outils dont la facture s’envole, les fournisseurs explosent en vol faute de marges, et la “transformation agentique” se solde par une purge budgétaire, payée cash en licenciements.

Vu ailleurs

• Le patron d’OpenAI aimerait bien que vous arrêtiez de jeter des cocktails molotov sur sa maison, merci d’avance (Blog de Sam Altman)

• “Slow the fuck down” explique ce développeur, parce qu’on atteint un niveau de complexité que même les agents IA n’arrivent pas à gérer (Mario Zechner)

• À cause du lobby de Microsoft, on ne pourra pas savoir combien consomme un datacenter européen, grosse enquête à lire (Algorithm Watch)

• Ed Zitron est très écouté par les critiques de l’IA… Mais s’il se plantait complètement? (The argument mag)

À la prochaine!

Grégory & Matthieu

[🧠 Contenu rédactionnel garanti 0% IA, 100% neurones humains ]