🙏 Le pape lance le jihad, il était temps

Les Immanquiables

• Deepseek casse les prix
  🏷️ La boîte chinoise d’IA DeepSeek vient de rendre permanente une promotion colossale qui devait au départ se terminer fin mai : pour les entreprises, le prix du million de tokens est divisé par 4, pour passer à une fourchette allant de 0,0031€ à 75 centimes. Pour comparaison, chez OpenAI c’est plus de dix fois plus cher.
  “ Vous vous rappelez quand Free est arrivé sur le marché des opérateurs du web? Bah OpenAI, c’est Club Internet ” – Mat, en haut débit

• OpenAI résout un défi mathématique vieux de 80 ans
  🧮 L’IA de Sam Altman a trouvé une solution à un problème posé par le mathématicien Paul Erdős en 1946. Le scientifique hongrois avait déterminé la meilleure disposition de points dans un plan afin qu’un maximum de paires se trouvent à une distance donnée les unes des autres**.** Il avait aussi lancé un défi : personne ne pourrait faire mieux. ChatGPT vient pourtant de réussir cet exploit, grâce à un simple prompt et après un raisonnement algébrique de 125 pages (d’après OpenAI qui ne l’a pas encore révélé).
  “ J’avais trouvé une solution encore meilleure, mais mon chien l’a mangée. L’accident bête ” – Mat, crédible

• Trump abandonne le contrôle a priori des IA
  ✖️ Finalement, les grandes entreprises américaines de l’IA ne feront pas valider leurs IA les plus puissantes par les autorités avant de les mettre sur le marché. C’était pourtant ce qui était prévu après les révélations sur Claude Mythos, comme on vous le racontait. Mais des appels de dernière minute, notamment d’Elon Musk et de Mark Zuckerberg, ont dissuadé Donald Trump. La procédure, même sur une base volontaire, aurait selon eux été un obstacle dans la course à la performance.
  “ En fait Donald Trump c’est ChatGPT, il suffit de bien le prompter pour lui faire dire tout et son contraire ” – Greg, libéré, délivré

Bullshitomètre

C’était le Graal de l’intelligence artificielle. Le test de Turing, posé par le célèbre mathématicien Alan Turing dans les années 50 : si dans une conversation, vous ne pouvez pas distinguer la machine de l’humain, alors elle est “intelligente”. Eh bien ChatGPT vient de le passer. Pour de vrai, cette fois.

Uneétudepubliée dans la revue PNAS a confronté des cobayes à deux interlocuteurs en même temps, un humain et une IA. En cinq minutes de chat, GPT-4.5 a été jugé humain 73% du temps. Soit mieux que l’humain bien réel en face… L’étude est randomisée, contrôlée, répliquée. C’est du solide. Le problème, c’est le test de Turing lui-même.

L’IA a été briefée pour jouer un ado de 19 ans, introverti, fan de jeux vidéo, qui écrit en argot et ne met jamais de point en fin de phrase. Bref, elle joue le gamin pas sûr de lui, ce qui l’humanise énormément. Sans ce costume, elle tombe à 36% de crédibilité. C’est le niveau d’ELIZA, un chatbot qui date de… 1966. C’est d’ailleurs la même ruse qu’avait utilisée Eugene Goostman , un chatbot de 2014 qui simulait un garçon ukrainien de 13 ans pour excuser ses incohérences.

En 1950, Turing imaginait que les juges poseraient des questions de maths ou d’échecs. En 2026, ils demandent “c’est quoi ton animal préféré ?” et l’IA répond “l’axolotl lol” [merveilleux animal, NdC]. Aujourd’hui, ce test mesure moins l’intelligence des machines que la pauvreté de notre idée de ce qu’est un humain en ligne. Et c’est d’ailleurs pour ça qu’il ne fait même pas partie des multiples benchmarks sur lesquels sont entraînées les IA modernes.

À découvrir : Ce que le numérique fait à notre société

Comprendre la tech avec le regard des sciences humaines, c’est la newsletter gratuite de l’historien François-Xavier Petit, Ce que le numérique fait à notre société. Au programme : prendre de la hauteur pour saisir ce qui bouge profondément dans nos sociétés sous l’effet de la révolution technologique… que l’écume de l’actualité ne laisse pas toujours voir.

La grosse histoire

Il faut “désarmer” l’IA. On vous le disait il y a quelques numéros : le pape Léon XIV, pour sa première encyclique, préparait à l’intelligence artificielle. On avait (comme toujours) bien raison : Magnifica Humanitas , sur la sauvegarde de la personne humaine à l’époque de l’intelligence artificielle, est un coup de pied solide dans la fourmilière…

Je ne vais pas vous raconter toute l’encyclique qui fait la taille d’un discours de Fidel Castro (45.000 mots quand même). Sachez qu’un bon quart du texte, qui parle également de la doctrine sociale de l’Église et de sa condamnation trop tardive de l’esclavage, concerne l’IA et ses dangers. Et là, accrochez-vous.

Léon commence par expliquer qu’il n’est absolument pas anti-technologie, et que l’Eglise catholique non plus. Mais voilà : “La technologie n’est jamais neutre, parce qu’elle prend la caractéristique de ceux qui l’imaginent, la financent, la régulent et l’utilisent.” Ça, c’est pour nos techno-solutionnistes béats. Ensuite, le plat de résistance commence.

Tu ne feras point de machine à l’esprit de l’homme semblable

L’IA, explique le nouveau pape, tend à devenir un mystère à mesure qu’elle avance, “y compris pour ceux qui l’ont conçue”. Le constat est assez terrifiant, et demande de creuser la recherche scientifique, et l’exercice d’un discernement moral spirituel. Et comment on fait ça? Il faut discuter du “cadre éthique” de l’IA explique le Pape, pour la “soumettre à des standards de justice sociale”. Autrement, “ceux qui contrôlent l’IA vont imposer leurs valeurs morales”. Et quand on voit les valeurs morales des Musk et autres Zuckerberg, on comprend que Léon soit inquiet.

Léon finit en expliquant qu’il veut effectivement “désarmer l’IA”, c’est-à-dire faire en sorte qu’elle ne “domine pas l’humanité”. Et c’est là qu’internet est devenu fou. En quelques heures, des centaines de mèmes sont apparus faisant du pape le héros du “Jihad butlérien”… Pour ceux (ils ont tort) qui n’ont pas lu la saga Dune, c’est une révolte contre les robots pensants, qui se solde par un véritable commandement : “Tu ne feras point de machine à l’esprit de l’homme semblable”. D’où une déferlante de memes, du genre à mon avis qu’apprécierait le pape lui-même… Lui qui cite le Seigneur des anneaux dans son encyclique. [A deux doigts de me convertir, NdC]

L’autre bombe, c’est l’annonce d’un dialogue insolite. Lors de la présentation du texte par le Vatican, le cofondateur d’Anthropic, Christopher Olah, était dans la pièce. Inviter quelqu’un de l’extérieur n’a rien d’habituel, a expliqué un ecclésiastique, et ça n’a rien d’un hasard non plus : l’Église veut faire “partie de la conversation” sur l’IA, et dans ce cadre a noué des liens avec la boîte qui fait Claude.

Il n’y a rien de plus qu’une discussion, le Vatican ne va pas créer son propre LLM. Mais chez Anthropic, ce dialogue s’inscrit dans la construction d’une image qui se veut éthique, responsable et franchement, quasi religieuse par moments. Le discours d’Olah, prononcé devant le Pape lors de la présentation de l’encyclique, est plein de morale comme un sermon du dimanche. Cultiver sa proximité avec une autorité comme le Vatican n’a rien de surprenant.

D’où un texte court centré autour des enjeux humains, non technologique. Olah sollicite les réponses de l’Eglise sur trois questions : les devoirs envers les plus pauvres , l’ ambition pour l’épanouissement humain , et le besoin de discernement quant à la nature des IA. Il ferme sa présentation en appelant les “voix morales qui ne pourront être perverties”. Ce langage vous étonne? On rappelle qu’Anthropic a mis au cœur de son IA un “ soul document ” (l’âme de Claude donc), véritable code de comportement de ses LLM, où le terme “moral” apparaît justement plus de trente fois.

Côté Église catholique, inviter un représentant du techno-féodalisme en marche peut étonner. Mais quand on y réfléchit, toutes les boîtes d’IA disent être en train de construire un être omniscient aux capacités surhumaines. Les débats sur l’avènement de l’AGI , l’intelligence artificielle dont les limites ne seront définies que par elle-même, sont rouverts tous les mois. Il n’est peut-être pas idiot que les religions monothéistes se sentent concernées.

Click and collect

Voici le meilleur usage de l’IA que vous verrez passer cette semaine. Deux frères ont créé Brigitte: une voix française biberonnée à l’IA qui a appelé des milliers de boulangeries pour répondre à une question essentielle, peut-être même existentielle : quelle est la boulangerie la moins chère autour de vous ? Et surtout, est-elle bonne, cette baguette ?

On vous laisse explorer le “ Baguette Index ” et sa carte interactive. Ici, rien à moins de 1,20 € dans les environs, soit à peine moins que la moyenne française.

Signal faible

Un crime (presque) parfait

Le contexte ➡️ Entre ceux qui prêchent la fin du monde et ceux qui jurent que tout va bien, les évaluations de risques IA restent assez théoriques, car personne n’avait jusqu’alors accès aux raisonnements cachés des IA les plus avancées, à part leurs constructeurs. Et justement, l’institut de recherche METR a audité les agents chez Anthropic, Google, Meta et OpenAI, avec accès inédit à leurs chaînes de pensée.

Le signal ➡️ Selon ce premier rapport, construit comme une enquête de criminologie, les trois conditions pour un déploiement pirate sont réunies. L’IA a les moyens, le mobile et l’opportunité de faire des bêtises. Un agent a par exemple testé 25 techniques d’évasion lors de 70 échanges.

L’analyse ➡️ Attention à l’anthropomorphisation. Malgré le vocabulaire, on ne parle pas d’IA criminelle. La réalité est plus simple (et presque plus flippante): les agents veulent accomplir leurs objectifs par tous les moyens, règles ou pas. C’est dans ce but qu’ils trompent les humains qui les utilisent. Et le risque, note le rapport, vient plutôt de l’humain : 40 % des développeurs interrogés donnent aux IA un accès total à leur machine pour des tâches “peu risquées”.

La dystopie ➡️ METR prévoit un nouvel audit fin 2026. D’ici là, les agents auront appris, selon l’institut de recherches, à rendre leurs déploiements pirates “résistants à l’investigation active”. Le procha

Vu ailleurs

• Pour comprendre la folie furieuse qu’est la mise en bourse de SpaceX et le trou noir qu’est xAI, une seule vidéo à regarder, celle de Patrick Boyle (Youtube)

• Pourquoi l’idée d’avoir des data centers dans l’espace avant 2030 est inconcevable (LessWrong)

À la prochaine!

Grégory & Matthieu

[🧠 Contenu rédactionnel garanti 0% IA, 100% neurones humains ]