🧑‍🚒 Pompiers pyromanes proposent petite pause

Les Immanquiables

• Amazon Prime lance le lip-syncing sur sa plateforme vidéo
  👄 Les amateurs de la série romantique allemande “Maxton Hall”, disponible sur Prime vidéos, ont désormais l’option de la regarder doublée en anglais avec une nouveauté : le mouvement des lèvres est adapté par IA pour coller au mot prononcé dans la langue de Shakespeare. Un test pour la boîte américaine, qui veut généraliser ce nouveau genre de doublage.
  “ L’IA peut toujours essayer, elle ne fera jamais aussi bien que les doubleurs du Grand Détournement. ” – George Abitbol, l’homme le plus classe du monde

• La États-Unis accusent la Chine de piller les IA américaines
  🇺🇲 DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun, et Z.AI : voici les 6 boîtes d’IA chinoises que les services de cybersécurité américains accusent de vol “à une échelle industrielle” dans un nouveau rapport. Ces champions chinois de l’IA auraient commis des attaques “par distillation”, c’est-à-dire en interrogeant des millions de fois les modèles américains pour entraîner leurs IA maison.
  “ L’imitation est la forme la plus sincère de flatterie ” – Oscar Wilde

• Meta lance son agent IA à installer sur smartphone
  📱 Mark Zuckerberg vient d’annoncer le lancement aux États-Unis de Muse, une IA capable de faire les courses, acheter des billets de train ou encore gérer votre agenda. Pour cela, l’agent se connecte à vos apps existantes. Dispo sur Android, Iphone ou directement sur Whatsapp, il n’a pas encore de date en France.
  “ Est-ce qu’il peut se connecter avec mon appli échecs pour me faire gagner aux échecs? ” – Mat, la rage de perdre

• Missiles, drones et boule de gomme
  💀 Anthropic, l’entreprise derrière Claude, communique régulièrement sur les attaques dont elle est la victime. Le rapport “threat intelligence” de septembre 2026 est une mine d’informations et d’angoisses diverses. On y croise le développement de missiles au Yémen, des drones kamikazes russes, des armes biologiques ou des piratages massifs.
  “ Je vois toujours pas pourquoi vous vous inquiétez ” – Greg, sous xanax

Bullshitomètre

Le 8 septembre, OpenAI aannoncéavoir résolu l’un des plus célèbres problèmes de mathématiques, un casse-tête sur l’écoulement des fluides, les “équations de Navier-Stokes”. Il a été classé comme l’un des sept problèmes du millénaire, avec un prix d’un million de dollars pour celui qui le percera. Il a fallu 10.000 agents IA, 88 heures et, selon OpenAI, plusieurs millions de dollars de calcul pour obtenir une preuve vérifiée par ordinateur. Même s’il faut attendre la vérification de mathématiciens, ce n’est probablement pas du vent.

Le problème date de la veille au soir. Le mathématicien Tristan Buckmaster publiait alors, avec son coauteur Levent Alpöge, un an de travail sur une équation cousine, se trouvant une petite étape avant la résolution de Navier-Stokes. Dans un texte glacial, il raconte qu’OpenAI l’a contacté et lui a proposé de publier un article sur son équation, puis un second article présentant le travail d’OpenAI sur Navier-Stokes. À une condition: son confrère d’Anthropic ne doit pas être mentionné.. Buckmaster menace alors de parler, et Sébastien Bubeck, d’OpenAI, lui répond : “Pourquoi ruineriez-vous votre carrière ? “ Bubeck s’est depuis excusé de la formule, et conteste avoir voulu écarter Alpöge. Mais Buckmaster a une autre question. Comme le mathématicien a utilisé ChatGPT pour son travail, OpenAI a-t-il lu ses prompts? Le modèle a-t-il été entraîné dessus?

OpenAI s’en défend, mais Buckmaster, de son côté, affirme ne pas avoir obtenu de réponse. Le 8, OpenAI écrivait ne pas pouvoir l’exclure, mais affirmait avoir commencé à travailler sur le projet le 1er septembre sur la foi de rumeurs Twitter. De plus, les preuves diffèrent, se justifie l’entreprise. Deux jours plus tard, OpenAI est cette fois catégorique: après une enquête interne, elle affirme que les messages de Buckmaster n’ont pas servi à entraîner son IA. Reste à les croire sur parole.

La grosse histoire

“ Ils parient avec nos vies ” : le message sur X de l’ex-employé d’Anthropic Jacob Coxon a fait boule de neige comme aucun autre avertissement sur l’IA. Le chercheur a démissionné après un été où les alertes rouges n’ont pas cessé sur les dangers des LLM, comme on vous le disait dans notre numéro de rentrée. Et son tweet qui s’en prend aussi bien à Anthropic qu’à son ancien employeur OpenAI (“Aucune des deux entreprises n’agit de manière responsable”) n’a pas fait qu’affoler les commentateurs.

Il a poussé Dario Amodei, le patron d’Anthropic, à prendre la plume, pour pondre trois jours plus tard le genre de loooong post de blog dont il a le secret… Et approuver le constat de Coxon. Les intelligences artificielles vont trop vite, elles n’ont pas de garde-fou, et des risques graves, comme la perte de contrôle des IA, nous tendent les bras. C’est pourquoi l’américain a des propositions chocs : ralentir la vitesse de sortie des modèles, et dans le même temps mettre en place des instances de contrôle indépendantes, une supervision démocratique et des institutions internationales de l’IA.

Oui, vous avez bien lu, le patron de l’un des leaders de l’IA veut ralentir la cadence. Mais le plus fou, c’est que ses concurrents Sam Altman (OpenAI) et Elon Musk (xAI) soutiennent cette idée. Il faut “ralentir la frontière” et mettre en place des évaluateurs indépendants, le trio de tête de l’IA américaine est donc sur la même longueur d’onde… Pourquoi les géants de l’IA prendraient-ils alors un tel risque? La réponse est dans ce qu’ils ne nous disent pas.

La bourse ou la vie

D’abord, cet appel ressemble plus à une manière de se couvrir qu’à une réelle prise de conscience, analyse le chercheur Gary Marcus, fin observateur du secteur. Après un été de tous les dangers, les boîtes d’IA ne veulent pas endosser seules la catastrophe qui nous pend au nez… Du coup, appeler le public à se mêler de leurs affaires est une façon très efficace de diluer leur responsabilité. Et puis, concentrer les peurs sur une menace à venir plutôt que sur les dangers actuels que représentent leurs modèles est une technique classique du “panic business” dont on vous rebat les oreilles sur Hallu World.

Mais c’est lorsqu’on jette un oeil à l’agenda d’Anthropic et OpenAI qu’on comprend mieux l’envie de demander une “pause”. Elles visent toutes les deux une gigantesque introduction en bourse. Malheureusement, il y a un os : du côté des créateurs de ChatGPT, les comptes sont catastrophiques, la boîte n’arrivant qu’à brûler les milliards, et l’opération n’aura finalement plus lieu en 2026, comme prévu initialement. Pourtant, Sam Altman justifie le retard de l’introduction en bourse d’OpenAI par les “ risques de sécurité” qui ont touché les IA ces derniers mois, d’où le besoin d’une “pause” dans tout le secteur…

Une justification surprenante de la part de l’homme qui a, à l’été 2024, démantelé toute le service “ Superalignement” d’OpenAI, l’équipe la plus en pointe sur les questions de sécurité. En attendant, “Sama” (pour les intimes) gagne quelques mois avant de devoir ouvrir ses livres de comptes aux gouffres abyssaux.

“ Arrêtez de faire comme si vous aviez besoin de permission ”

Du côté d’Anthropic par contre, pas trop de problème de cash-flow. La croissance de l’entreprise ne faiblit pas. Elle gagnerait même de l’argent, promet-elle aux investisseurs. Mais regarder de près le blog de Dario Amodei donne une idée de sa propre obsession : maintenir une image de “good guy”, ne pas incarner le problème, mais la solution. Les agents IA d’Anthropic étaient au cœur de plusieurs feuilletons de cet été, et l’entreprise, qui tient beaucoup à son image de bon samaritain dans un secteur de cow-boys, veut montrer qu’elle est bien un acteur responsable. Quoi de mieux alors que de demander une pause?

Tirer soi-même la sonnette d’alarme permet aussi d’être celui qui identifie le problème. Dario alerte dans la même note de blog : il ne faudrait pas que la Chine prenne le leadership. Cette pause doit donc s’accompagner de mesures d’embargo contre le concurrent chinois, avec ses méchantes IA open source (qu’on est donc libre de modifier chez soi) qui copient les algorithmes américains, et collent de très près leurs performances. Avec son appel à la régulation, Amodei fait donc d’une pierre deux coups : un contre-feu face à l’anxiété du public, et une tentative d’exclure du marché le concurrent chinois, voire les modèles open source en général.

Et puis bien sûr, il y a le paradoxe que tant d’observateurs se sont fait un plaisir de souligner. Pourquoi demander une pause, des institutions de régulation, un contrôle démocratique… Tout en continuant avec le pied sur l’accélérateur? Ou pour le dire autrement, à l’image de l’expert du secteur David Sacks sur X : “Arrêtez de faire comme si vous aviez besoin de la permission de qui que ce soit” pour ralentir la cadence.

Click and collect

Que se passe-t-il quand des chercheurs de Google cartographient les 166.000 neurones d’une mouche et ses 125 millions de connections synaptiques, avant de les recréer virtuellement et de les mettre à disposition des internautes? Plein d’expériences bizarres, façon album de Martine. La mouche joue aux jeux vidéo, la mouche conduit une voiture, la mouche fait du trading… La mouche apprend à résoudre un Rubik’s cube. Comment? En “dressant” son réseau neuronal avec des algorithmes de renforcement, comme on apprend à un LLM.

Signal faible

(mis)Anthropic

Le contexte ➡️ C’est peu dire que les patrons de l’IA n’ont pas le vent en poupe. 80% des Américains de moins de 30 ans s’opposent à la construction de data centers aux Etats-Unis. Et ça va parfois loin: il y a quelques mois, quelqu’un lançait un cocktail molotov sur la maison de Sam Altman.

Le signal ➡️ Le journaliste d’investigation Daniel Boguslaw vient de publier une enquête sur les méthodes de profilage utilisées par Anthropic pour déjouer les crimes avant qu’ils n’arrivent et protéger ses employés. L’entreprise a alerté la police quand un des utilisateurs de Claude a confié au chatbot qu’il allait s’acheter une arme pour attaquer son PDG Dario Amodei (il affirme au Standard que c’était une simple blague). Des méthodes qu’Anthropic assume comme “prédictives”.

L’analyse ➡️ Sous couvert de protéger ses cadres dirigeants et ses locaux, le géant de l’IA se dote d’une capacité de renseignement privé où l’activisme est officiellement listé comme une menace à surveiller, au même titre que la criminalité, l’instabilité géopolitique ou le terrorisme. Le tout organisé dans un flou juridique absolu.

La dystopie ➡️ En 2035, organiser un rassemblement quel qu’il soit n’est possible que si l’on n’est pas considéré comme une “menace” par les géants de l’IA, qui remplissent le rôle d’une police prédictive. Au motif de son efficacité au maintien de l’ordre, ils sont les partenaires efficaces du pouvoir en place, totalement démocratique, promis juré.

Vu ailleurs

• Les IA sont comme vous, elles détestent les captchas (Tech Crunch )

• A quoi servent encore les mathématiciens? Une super analyse en profondeur (Scientific American)

• Un reportage auprès des efforts de Vernie Sanders & Co pour convaincre les élus américains des dangers (mortels) que fait courir l’IA (Washington Post)

À la prochaine!

Grégory & Matthieu

[🧠 Contenu rédactionnel garanti 0% IA, 100% neurones humains ]