✞ Notre Anthropic qui êtes aux cieux

Les Immanquiables

• Mistral sort son nouveau modèle de pointe

🇫🇷 La boîte française vient de dévoiler “Le Chonk”, sa nouvelle IA frontière. Son nom est évocateur (chonky = un animal un peu gros en anglais) : avec 1000 milliards de paramètres annoncés, Mistral vante son IA comme le plus puissant des modèles ouverts en dehors des champions chinois comme DeepSeek. La sortie grand public aura lieu courant octobre.

“ On en fait des tonnes sur Mistral alors que ma start-up Tramontane est en pleine levée de fonds ”
– Mat, dans le vent

• Google envoie ses puces bronzer en orbite
  🛰️ Google a mis en orbite un satellite de la taille d’un frigo, premier test de ses futurs data centers spatiaux alimentés à l’énergie solaire. À bord, quatre puces maison font tourner son modèle Gemma par tranches de 15 minutes, pour ne pas surchauffer (dans le vide, la chaleur s’évacue mal). On est donc loin d’un usage en conditions réelles. Même le chef du projet ne voit pas l’orbite devenir moins chère que la Terre avant au moins cinq ans.
  “ Quinze minutes de calcul et il faut le laisser refroidir : je peux leur revendre mon PC portable sinon ”
  — Greg, en orbite basse

• OpenAI lance ses agents qui ne dorment jamais
  🔵 OpenAI dégaine ses “dots”, pour rattraper Muse chez Meta (qui a donné l’adresse d’un YouTubeur à un inconnu) et la start-up Instinct (valorisée 10 milliards de dollars). Ces agents ont leur propre ordinateur, se branchent sur vos applis, jusqu’à faire votre boulot “avant même d’avoir pensé à le demander”.
  “ Je viens d’en inviter un à faire un tennis : nul en coup droit, mais compte très bien les points ”
  – Mat, sportif solitaire

• Chez OpenAI, une certaine vision de la sécurité
  ⚠️ David Robinson, qui a piloté les rapports de sécurité d’OpenAI ces dernières années, vient de démissionner. Dans The Atlantic, il décrit une entreprise qui enchaîne les lancements au pas de course, avec une méthode par tâtonnements qui garantit des échecs périodiques. Il demande que les entreprises d’IA soient gérées comme des centrales nucléaires. Son ancien patron, Sam Altman, explique au même moment à Politico que “le monde devrait accepter que certaines mauvaises choses arrivent” en échange des bénéfices de l’IA.
  “ J’accepte volontiers que de mauvaises choses arrivent, tant qu’elles arrivent à Sam ”
  — Greg, pas volontaire

Bullshitomètre

Ne dites plus “Intelligence artificielle” (IA) mais “Super Intelligence” (SI) : c’est Donald Trump qui l’a dit. Donc c’est forcément idiot, on est d’accord ? Pas si sûr. Le terme de “Super Intelligence” n’a rien d’incongru dans le monde de l’IA. Il ne date pas du président américain et de son goût pour la formule, mais du philosophe Nick Bostrom. C’est depuis des années l’un des penseurs les plus lus sur l’intelligence artificielle. Dans un essai publié en 1997, il se demandait déjà à quel moment l’intelligence humaine serait dépassée par une “superintelligence” robotique.

L’expression a depuis fait des petits. Aujourd’hui, beaucoup cherchent à créer une “AGI” (Artificial General Intelligence) qui doit mener plus tard à l’“ASI” (Artificial Superintelligence). On rappelle également que si OpenAI a créé en 2023 un département dédié à la sécurité baptisé “Superalignement” (avant de le dissoudre rapido), c’est bien sûr pour suivre la même terminologie.

Alors, même s’il a piqué ça à quelqu’un d’autre, il a raison Donald, de vouloir changer de nom ? Bien sûr que non! La superintelligence au sens de Bostrom, c’est la machine qui dépasse “les capacités cognitives humaines dans virtuellement tous les domaines”. Or ce n’est pas le cas, dixit Bostrom lui-même, puisque dans bien des activités, le cerveau humain reste intouchable.

S’il est donc vide de sens, ce petit emprunt de Trump a servi, en revanche, à vérifier que le monde de la tech avait bien le doigtsur la couture du pantalon. Lorsque le président a présenté le décret pour institutionnaliser ce changement, il était à une table ronde avec le patron d’Anthropic Dario Amodei, le patron de Meta Mark Zuckerberg, le patron d’OpenAI Greg Brockman… Pas un n’a ouvert la bouche à l’idée de chambouler totalement le lexique du secteur sur une lubie de Donnie.

CLIQUEZ ICI POUR VOUS INSCRIRE !

La grosse histoire

Nous sommes le 25 mai 2026. Depuis la salle de presse du Saint-Siège, le pape Léon XIV révèle au monde le contenu de sa toute première encyclique. Elle s’appelle Magnifica Humanitas , et la moitié de ses cent pages concerne l’IA. Pendant la présentation de cet ouvrage, un homme occupe l’une des places près du chef des catholiques. Il s’appelle Christopher Olah, c’est le cocréateur de l’IA Claude, et sa mission est un échec. Revenons quelques mois plus tôt.

On le sait depuis des années : Anthropic n’est pas une société comme les autres, et son rapport avec la spiritualité le montre. Dès 2023, un portrait dans The Atlantic laissait entendre sans ambiguïtés que la société de Dario Amodei proposait fréquemment à des religieux, de toutes obédiences, de participer à des rencontres. L’objectif? Aider à structurer “moralement” Claude, l’IA d’Anthropic.

À l’inverse des autres entreprises du secteur, Anthropic a fait le choix d’essayer d’apprendre des principes éthiques, moraux, à Claude. Cela a donné lieu à une “ Constitution” matraquée pendant l’apprentissage du modèle de langage, dont une des premières versions avait pour nom de code… “Soul document”, les 10 commandements du modèle, en quelque sorte. Alors pour construire cette base, Anthropic a engagé des philosophes et a parlé à toutes sortes d’experts, notamment des théologiens.

Tout ça, sur le fond, serait presque rassurant. L’une des boîtes d’IA les plus en pointe est aussi la plus désireuse de trouver comment les éduquer correctement? Super. Sauf que, nous apprend une très (trop) longue investigation du New York Times, il ne s’agit là que de la face émergée de l’iceberg. Les rapports entre les responsables d’Anthropic et les hommes de foi ne sont pas des discussions ouvertes : il s’agit de les convaincre que Claude est conscient.

Anthropic prend la mouche

Comme le raconte la journaliste Elisabeth Diaz, depuis la fin de l’année dernière, Christopher Olah, cofondateur d’Anthropic, organise des repas avec non seulement des ecclésiastiques, mais aussi des influenceurs ou des entrepreneurs chrétiens. L’occasion de leur faire comprendre, par des discours appuyés, que l’IA est déjà un être capable de ressentir des émotions.

Durant ces rendez-vous, l’équipe d’Olah mettait par exemple l’accent sur les “émotions” qui passaient par la tête de Claude. Olah lui-même a un jour expliqué qu’il redoutait d’avoir créé un être en état de souffrance perpétuelle… De clairs indicateurs d’un être pensant.

Alors, lorsqu’en mai dernier, le Vatican a proposé qu’un membre d’Anthropic vienne prendre la parole après le dévoilement de l’encyclique Magnifica Humanitas , Olah s’est proposé pour faire le déplacement. Une copie du texte lui a alors été envoyée, comme à tous les participants, avant que le grand public n’en prenne connaissance. Le ton du pape, ses positions très critiques envers l’IA, ont failli faire changer d’avis Olah, qui selon le New York Times était à deux doigts d’annuler sa présence au Vatican (l’encyclique rejetant l’idée qu’une IA puisse avoir une conscience).

Il a finalement fait le déplacement, pour donner après le pape un discours plein de prudence, mettant en avant “ le besoin de discerner la nature des IA ”. Grâce au New York Times, on sait désormais ce que pense vraiment Anthropic de cette question. Mais après tout, est-ce si surprenant de la part d’une entreprise qui a créé une maison de retraite pour les IA en fin de “vie”?

Le prompt

(suite de la dernière fois)
Vous avez été nombreux la semaine dernière à nous demander à quoi ressemblait la vidéo d’animation produite par Claude avec le prompt (c’est vrai qu’il consomme pas mal de tokens, désolé pour ceux qui ont cramé leur forfait!). C’est ici :

La citation

“L’IA est certainement suffisamment puissante pour provoquer des événements qui pourraient causer un milliard de morts.”

– Bill Gates

Si vous avez envie d’en savoir un peu plus sur ce que Billou pense de l’IA (le cofondateur de Microsoft dit aussi qu’elle peut être géniale), son interview complète sur NBC News est à revoir ici.

Signal faible

Des chiffres et une lettre

Le contexte ➡️ Une IA qui conçoit une IA plus intelligente qu’elle, qui en conçoit une encore plus intelligente… Depuis qu’Anthropic et OpenAI font travailler leurs intelligences artificielles sur leurs propres remplaçantes, le scénario d’un emballement est partout, notamment dans la recherche et développement. On rêve de millions d’IA chercheuses (et surtout trouveuses). Beaucoup de prophéties, mais peu de calculs.

Le signal ➡️ Vingt-deux scientifiques, dont des grands noms comme Geoffrey Hinton et Yoshua Bengio, se sont posé la question. Leur réponse tient en une lettre : r. Elle correspond en gros à ce que rapporte chaque chercheur supplémentaire. Si r est au-dessus de 1, chaque génération d’IA-chercheuses accélère la suivante. En dessous, le progrès s’essouffle. La plupart de leurs estimations vont de 1,2 à 1,9. Ce qui signifie que si la recherche était entièrement automatisée, un an et demi suffirait pour qu’une année de progrès actuel en R&D tienne en cinq semaines.

L’analyse ➡️ Le papier formule aussi des doutes sur ces estimations. Le chiffre r pourrait descendre jusqu’à 0,38, soit pas d’explosion du tout. C’est comme pour tout modèle mathématique. Vous vous rappelez du fameux r0 du Covid [non Greg, personne à part toi, ndc]? C’est pareil. Il repose sur des hypothèses fragiles, comme le fait de compter les chercheurs au nombre d’auteurs d’articles. Et reste à savoir si un tel modèle s’applique à de très gros volumes de recherche, notent les auteurs. Ce qui ne les empêche pas de recommander aux gouvernements de s’y préparer dès maintenant. Au cas où.

La dystopie ➡️ En 2032, Bob est en grève. Il travaille trois fois plus que Théo, son collègue humain, et même si c’est une IA, il aimerait bien avoir des congés payés, merde à la fin.

Vu ailleurs

• Ce LLM a essayé d’inverser les rôles : un cas fascinant et assez effrayant (LessWrong)

• Que feriez-vous si votre employeur pouvait détruire le monde ? 8 interviews d’anciens employés d’OpenAI, Anthropic et Deepmind (NYMag, payant)

À la prochaine!

Grégory & Matthieu

[🧠 Contenu rédactionnel garanti 0% IA, 100% neurones humains ]