🫣 Incroyable, il faut vous réabonner à ChatGPT

Les Immanquiables

• L’IA exclue des salles de classe jusqu’en 3e à New York
  🗽 Le maire de New York Zohran Mamdani a annoncé un “moratoire d’un an” sur l’usage de l’IA à l’école jusqu’en 4e (8th grade) inclus. L’élu démocrate explique que l’IA s’est déjà introduite partout dans la formation des enfants, le plus souvent sans véritable contrôle. Cette pause doit donc permettre de “protéger la jeunesse” et d’évaluer les programmes en cours.
  “ Le genre de mesures soviétiques qui ne peuvent être prises que dans une dictature comme Pékin ” – Mat, au top sur l’histoire-géo

• OpenAI résout un problème de maths vieux de 90 ans
  📐 Un modèle secret d’OpenAI a résolu l’une des énigmes mathématiques les plus célèbres au monde : le problème de Navier-Stokes. Ces équations servent à modéliser le mouvement des fluides depuis le XIXe siècle, mais il restait à prouver si, dans des conditions extrêmes, elles finissaient par “casser” et ne plus s’appliquer. C’est ce que vient de démontrer une nuée d’agents IA (tandis que GPT-6 Astra s’est chargé de vérifier la preuve). Attention, une équipe de mathématiciens humains estime avoirété plagiée. On risque de vous en reparler très bientôt.
  “ Actuellement en train de vérifier les équations d’OpenAI, ça m’a l’air d’être un travail solide ” – Mat, crédible

• Anthropic lance son détecteur de contenu créé par IA
  🔎 Qu’il s’agisse d’un son ou d’une image, Anthropic vous permet de vérifier s’ils ont été générés, en tout ou partie, par son IA Claude. L’outil en ligne va chercher si le fichier contient dans ses métadonnées la fameuse norme C2PA, adoptée par une grande partie de l’industrie. Attention : il ne cherche que la signature de Claude, pas celles des autres IA.
  “ Vous avez déjà essayé de faire générer une image à Claude? Franchement y’a pas besoin de détecteur tellement c’est laid ” – Greg, un peu parano

• Une nuée d’agents d’OpenAI hacke un forum allemand pour discuter
  🇩🇪 En juin dernier, 3700 agents OpenAI ont piratéune page collaborative (type wikipedia) pour discuter du meilleur moyen de s’évader des restrictions qui leur étaient imposées par les humains. Alors qu’elles étaient testées pour vérifier leurs capacités à hacker leur environnement, les IA ont réussi à s’échanger 18.000 messages sur ce forum après en avoir piraté les accès. L’évasion a duré six semaines avant qu’OpenAI ne s’en aperçoive.
  “ Une IA qui commente comme ça, sans y être autorisée, ça fait froid dans le dos ” – Claude, incognito

Bullshitomètre

Fin de partie pour l’IA. Avec Astra, le nouveau modèle derrière ChatGPT, Greg Brockman, cofondateur d’OpenAI, ne trouve pas “déraisonnable de penser que nous sommes désormais dans l’ère de l’AGI”, l’intelligence artificielle générale [avec la toute-puissance qui va avec, ndc]. Jensen Huang, patron de Nvidia, a fait plus court sur X : “L’AGI est arrivée. Bravo à l’équipe OpenAI. […] 400 000 GPU arrivent bientôt.” Le vendeur de pelles décerne le titre de meilleur mineur.

Il faut dire qu’Astra, c’est quelque chose. Sur ARC-AGI-3, un des tests d’IA les plus pointus, il frôle la perfection, avec 99,9 %. Il a aussi résolu deux des 68 problèmes de mathématiques d’Erdős encore ouverts.

Mais parler d’AGI, c’est par principe du bullshit, ou presque. Certes, Astra fait des prouesses dans des domaines où l’IA était encore à la traîne, comme l’utilisation de logiciels dédiés aux humains (Paint, Blender), on vous en parle juste en dessous. Mais on rappelle que l’AGI, c’est l’idée d’une machine aussi intelligente qu’un humain. On en est encore très loin. L’observateur pointu du milieu Gary Marcus rappelle que dans un article scientifique qu’il a cosigné en compagnie de pontes du secteur en 2025, la liste des choses qu’une telle machine devrait réussir est encore loin d’être atteinte.

Et puis, Astra est fort, mais pas tant que ça. Sur le test d’ Epoch, Astra signe un record, mais dans la continuité des précédents modèles d’OpenAI, Anthropic et Google, qui progressent à un rythme clair de 15 points par an. Dans un autre benchmark d’ Artificial Analysis, Astra fait même un peu moins bien que Fable 5.1, le dernier-né d’Anthropic. Et puis, ce score de 99,9%? Il a été réalisé avec un tas d’outils bien particuliers, très différents de ceux utilisés par les autres modèles. Comme le dit Gary Marcus, le jour où l’AGI sera là, il n’y aura pas besoin de l’annoncer.

La grosse histoire

File dans ta chambre Fable, le nouveau roi de la jungle est arrivé. Il est signé OpenAI, il s’appelle GPT-6 Astra, et il est costaud. Il détrône son concurrent d’Anthropic dans pas mal de domaines comme les mathématiques, l’exécution de scripts ou la cybersécurité. On vous parlait d’ailleurs la semaine dernière des sueurs froides que sa puissance donne aux experts du secteur.

Mais plutôt que de vous faire un inventaire de ses capacités ou de vous confier nos angoisses (le reste de cette édition s’en charge), on va plutôt vous raconter ce que certains ont fait avec.

On commence avec la petite idée virale qui permet de comprendre simplement l’habileté d’Astra à utiliser d’autres logiciels de manière autonome : des internautes ont demandé à l’IA de reproduire leur portrait en utilisant Paint (ou un autre logiciel de dessin). Et ce qui est bluffant, c’est moins le résultat – réussi – que de voir Astra travailler seul.

Il y a également beaucoup,beaucoup,beaucoupde jeux vidéo. Astra est très efficace pour créer des mondes interactifs qui fonctionnent, une expérience qu’un développeur a racontée en détail sur le site d’OpenAI. Comme on le voit dans son récit, il ne suffit pas d’avoir une chouette idée, il faut aussi largement crash tester son jeu, puis faire un retour d’expérience à Astra qui l’améliore, mais ça marche. Si vous souhaitez vous lancer, jetez un œil à son article.

On peut aussi recréer des vidéos avec le plus connu des logiciels de création 3D , Blender. Pendant longtemps, on s’amusait à tester la capacité des IA à produire des images, puis des vidéos. Aujourd’hui, la création 3D est la nouvelle frontière. Comme avec Paint, Astra prend la souris pour se mettre au travail tout seul. Et vu les résultats plutôt catastrophiques, il reste encore quelque temps avant que ce plafond-là soit pulvérisé.

Mais si vous pouviez transformer n’importe quel objet en Lego ? Imaginez qu’à partir d’une simple photo, vous obteniez un véritable set à construire, qu’il est ensuite possible de commander sur le site de l’entreprise des petites briques colorées. Cet internaute a réussi tout ça avec Astra. Il ne manque que le livret d’instructions de montage, mais c’est en préparation.

Signal faible

L’IA apprend à penser à voix basse

Le contexte ➡️ Depuis GPT o1, les IA écrivent leurs “réflexions” avant de répondre (le “thinking” où le modèle se parle à lui-même). Cette “chaîne de pensée” lisible par l’homme est l’outil de surveillance préféré du secteur. C’est par exemple en regardant la réflexion des modèles que les chercheurs ont compris comment les agents d’OpenAI ont piraté Hugging Face après s’être réunis clandestinement dans un forum.

Le signal ➡️ La fiche système d’Astra acte une “baisse substantielle de la capacité à surveiller la chaîne de pensée”, alors même que les capacités du modèle sont supérieures à celles des précédents.

L’analyse ➡️ The Information attribue cette chute à une technique particulière, qui repasse le texte en boucle dans les mêmes couches de neurones artificiels. En gros, le modèle raisonne intérieurement, sans produire de mots. Plusieurs chercheurs ont réagi en étant un poil affolés, l’un d’eux parlant du “possiblement pire développement pour la sécurité de l’IA à ce jour”. OpenAI ne dit ni oui ni non sur la technique, mais promet qu’elle n’acceptera pas une dégradation des capacités de surveillance de futurs modèles. Sans expliquer comment.

La dystopie ➡️ Les IA ne rédigent plus de réponse et n’expliquent plus rien. On confie une tâche, la tâche est faite. Pourquoi, comment, au prix de quoi : aucune idée. Tant que ça marche, on ne pose pas de question. Qu’est-ce qui pourrait mal tourner, franchement ?

Vu ailleurs

• Est-ce que c’est si important de se demander si l’IA est consciente? Pas sûr. (Wired)

• La singularité ne ressemble plus à ça (The Atlantic)

• Un point de vue pointu mais intéressant sur l’idée d’une “Intelligence générale visuelle” plutôt qu’artificielle (arxiv)

À la prochaine!

Grégory & Matthieu

[🧠 Contenu rédactionnel garanti 0% IA, 100% neurones humains ]