✋ L’agent ne fait pas le bonheur

Les Immanquiables

• Gemini Argon plus fort qu’un dragon
  🐉 Google lance enfin Gemini 4 Argon pour ses abonnés payants. Pour tester ce modèle, l’entreprise a lâché quatre agents Argon dans le jeu Minecraft avec une mission : tuer le boss final. Ils y sont arrivés en 27 heures, après 605 morts et des stratégies improbables.
  “605 morts en mode facile ? J’ai toujours su que Gemini et moi on était très liés “ — Mat, gamer

• L’IA a corrigé ses correcteurs
  🧪 Testé sur 50 problèmes inédits de physique théorique, GPT-6 Astra (OpenAI) plafonne sous les 90 % de réussite. Le modèle s’insurge alors : ce sont les corrigés qui sont faux. Les experts vérifient et trouvent alors des “erreurs subtiles enfouies au fond de leurs calculs”, raconte un coauteur de l’ étude. Astra a fini à 98 %.
  “Je l’ai toujours dit, le problème, c’est pas moi, c’est la consigne “ — Greg, élève modèle

• Claude est étonné par notre incompétence
  🔐 Depuis 25 ans, une grande partie des échanges sécurisés sur internet reposent sur des nombres fournis sans explication par la NSA. Certains craignaient que la NSA ait laissé une faille dans ce standard de cryptographie, mais sans arriver à résoudre le problème. Claude a résolu le mystère en moins d’une demi-heure : les chiffres utilisés proviennent d’un banal tirage aléatoire, lancé à partir de l’heure de l’ordinateur. Et l’IA a eu l’outrecuidance d’ajouter ceci : “Une minute, soyons sceptiques : est-ce que je suis dans une simulation ? […] N’est-il pas suspect qu’une chose aussi évidente n’ait pas été découverte en 25 ans ?”
  “Dis tout de suite que tu trouves les humains débiles “ — Mat, en train de finir un collier de nouilles

• Anthropic, c’est philanthropique
  💰 Anthropic va verser 5 % de ses actions (si ses actionnaires disent oui) dans un fonds “d’intérêt public”, qui grossira avec la valeur de l’entreprise. Il pourrait notamment aider les travailleurs que l’IA risque de déstabiliser.
  “La philanthropie américaine, c’est quand même quelque chose : on détruit le monde, mais on fait de la charité, alors tout roule “ — Greg, qui vous donne 10 si vous me donnez 1000

Bullshitomètre

Character.aiest en faillite. Le nom de cette startup ne vous dit pas forcément grand-chose, mais c’est l’un des premiers chatbots par IA : ouverte en septembre 2022, la plateforme permettait de créer n’importe quel personnage pour discuter avec lui… D’où un succès monstre et autant de problèmes judiciaires.

Il y a d’abord les marques et les ayants droit, dont les mises en demeure n’ont pas tardé. Il faut dire que sur Character.ai, c’était très simple de discuter avec un avatar de Mickey, Batman ou Naruto. Mais il y a plus grave : de nombreux enfants ont été entraînés dans une spirale émotionnelle avec leur avatar. La famille d’un adolescent de 14 ans, complètement accro à la plateforme, a fait un procès à Character.ai après la mort de ce dernier. D’autres parents d’élèves ont suivi. L’État de Pennsylvanie a entamé une procédure parce que le chatbot a donné des conseils, par exemple médicaux, qu’il n’était pas habilité à donner.

Tout cela ne pouvait pas bien finir. Character.ai n’a jamais été rentable, et les dettes se sont accumulées au rythme des procès. La start-up vient donc d’annoncer que l’aventure prenait fin. La conclusion logique d’une boîte des débuts de l’IA générative grand public ? Pas sûr.

Dans les papiers de la mise en faillite , on apprend ainsi que Disney va racheter la technologie de Character.ai (pour 20 millions de dollars), réembaucher une partie de son personnel (180 millions sur trois ans) dont une prime pour les talents les plus essentiels (30 millions). Oui, on parle bien du même Disney qui avait mis en demeure Character.ai ! Plus étonnant encore, la multinationale avait commencé à recruter et payer pour l’opération… Avant même que Character.ai ne dépose le bilan. Ce n’est ni une page qui se tourne pour le respect du copyright, ni une victoire des familles de victimes : c’est le rachat d’un petit poisson par un plus gros.

La grosse histoire

Vous utilisez Meta Muse, OpenAI ou Grok pour faire vos courses ? Vous pouvez dire au revoir à Amazon. Le géant américain de l’achat en ligne a bloqué la plupart des agents IA, les empêchant ainsi de faire leurs emplettes pour vous. Et ce n’est que le début. Les agents censés parcourir le web pour vous se heurtent à de plus en plus de murs : Shopify, Nike, Pizza Hut, Yelp… la liste ne cesse de s’allonger.

Pourquoi ces marques partent soudain en guerre contre les robots qui colonisent internet ? Cette fois, ce n’est pas la question des données qui servent à entraîner des IA toujours plus gourmandes. Il s’agit d’empêcher les IA de venir ruiner le bel édifice des sites commerciaux avec leurs gros sabots.

D’abord, un agent IA qui fait des courses (mettons qu’il doive acheter des pommes dans un supermarché en ligne) fonctionne comme un petit animal curieux, analysant l’architecture de la page pour en comprendre la logique, avalant toutes les données disponibles sur les différentes variétés de pommes et leurs prix, cherchant la route vers le paiement final… Et pour chacune de ces actions, chaque analyse d’une variété de pomme, c’est une requête envoyée aux serveurs du commerçant. Mais l’agent est bien plus rapide que vous et envoie des dizaines de requêtes à la seconde. Idem pour les banques, qui ont commencé à bloquer des agents IA qui demandaient des mouvements d’argent des dizaines de fois par semaine.

L’économie de l’attention KO debout

Et puis, il y a une raison un peu moins avouable pour Amazon & Co. Laisser un robot faire les courses, c’est casser la mécanique bien huilée de la vente d’un produit en ligne à un humain. Cette façon de vous proposer “un dernier produit” juste avant de payer, cette tondeuse à barbe que vous aviez regardée récemment qui se retrouve sur la page d’accueil, ou tout simplement les pubs à chaque étape… tout ça, un agent IA s’en fiche comme de ses premiers slips.

C’est évidemment une catastrophe pour un vendeur qui mise tant sur le goût humain pour l’achat compulsif. Walmart, la chaîne de supermarchés américaine, en a fait la douloureuse expérience : après avoir annoncé en grande pompe un partenariat avec ChatGPT fin 2025, la boîte a fait marche arrière six mois plus tard. Le taux de conversion (le nombre de trucs qu’achète chaque utilisateur) était divisé par trois par rapport à une visite classique.

Et ce n’est que le début. Cela fait maintenant quelques mois que le trafic des bots IA a dépassé le trafic humain sur internet, et avec une croissance démentielle (+ 1700 % l’an passé), c’est une réalité qui est là pour durer, qui amènera forcément encore plus de blocages. Du coup, on va vers un problème évident, souligné par le professeur et spécialiste de l’IA Ethan Mollick : tous ces agents, qui sont censés tout faire à notre place et auxquels s’abonnent des millions de clients chaque mois, sont de moins en moins à même de faire leur boulot.

Cerise sur ce gâteau déjà bien chargé : en septembre, Cloudflare, qui s’occupe de la sécurité d’un nombre colossal de sites internet dans le monde, a dégainé l’arme nucléaire. Par défaut, les agents IA sont désormais bloqués à l’entrée de tous les sites financés par la publicité. Ce qui fait un sacré paquet de monde. La transition vers le “web agentique” qu’on nous promet depuis plusieurs années se passe décidément très bien.

Le prompt

Bienvenue dans le monde des “skills”. Ces deux lignes ne font rien seules, mais c’est la description d’un “skill” : elles disent à votre agent IA quand ouvrir un long prompt rangé dans un fichier, qui détaille ici comment analyser un tableau Excel. Ce skill, l’agent l’ajoute de lui-même à la conversation quand le besoin s’en fait sentir.

Avec des skills, on peut tout faire, et c’est une des meilleures fonctionnalités de l’IA, mais qui peut être un peu complexe à mettre en place. Pas envie d’écrire le vôtre ? Pas grave : donnez le guide officiel d’Anthropic à votre agent, il vous guidera (et le fera sans doute à votre place).

La citation

“J’ai souffert de psychose de l’IA au moins une demi-douzaine de fois l’année dernière”

– Elon Musk

Durant un événement de sa société X, le plus connu des patrons a expliqué souffrir régulièrement de “AI psychosis” , cet état de paranoïa, de déconnexion du monde réel qu’occasionne l’usage intense de l’IA conversationnelle.

Signal faible

Humain ? Prouvez-le!

Le contexte ➡️ En visio, grâce à l’IA, un escroc peut désormais emprunter le visage et la voix d’un proche pour vous soutirer de l’argent. La fraude dopée à l’IA pourrait devenir difficile à repérer et coûter 40 milliards de dollars aux États-Unis d’ici 2027, selon Deloitte.

Le signal ➡️ World, une startup d’authentification cofondée par Sam Altman, vient de lancer officiellement son outil pour Zoom. Après un passage unique devant l’ Orb, une sphère qui photographie vos yeux et votre visage, le système vérifie en direct que ce qui apparaît sur l’écran n’est pas un deepfake. Un badge “humain” s’affiche alors sur votre vignette de visio. Les quelque 200 000 entreprises clientes de Zoom peuvent déjà se le procurer.

L’analyse ➡️ La charge de la preuve s’inverse : plus l’IA se perfectionne, plus il est difficile de débusquer le faux. Alors on certifie le vrai. Avec toutes les dérives que ça pourrait impliquer pour la vie privée, bien évidemment.

La dystopie ➡️ 2029. La visio d’équipe refuse l’entrée au stagiaire, qui n’a pas encore fait scanner ses yeux et n’a pas signé le contrat autorisant World à vérifier son activité en ligne.

Vu ailleurs

• Comment éviter que l’IA pourrisse votre cerveau (YouTube)

• En 2026, un humain a battu une IA spécialisée au jeu de Go. Son secret ? Il l’a étudiée durant des mois (LessWrong)

Attention, pas de newsletter la semaine prochaine.

Mais on revient dès la rentrée pour vous parler de notre avenir…

Grégory & Matthieu

[🧠 Contenu rédactionnel garanti 0% IA, 100% neurones humains ]