🔥 L'été de l'IA était plus torride que le vôtre

Les Immanquiables

• Google AI Overview dans plus de 50% des recherches
  🦾 Depuis la mi-août, le résumé par IA sous les requêtes Google se déclenche dans plus de la moitié des requêtes en France, alors qu’il n’a démarré que fin juillet. Ce sont les recherches en lien avec le business et les relations humaines qui sont les plus concernées.
  “ On vous rappelle que pour vous passer de ce petit texte qui tue le net , on a développé une extension gratuite pour Chrome ” – Mat, commercial

• Succès de la première opération du cerveau assistée par IA
  🧠 Des neurochirurgiens britanniques ont opéré avec succès un patient atteint d’une tumeur au cerveau avec l’aide d’une IA. Pendant que les humains pratiquaient l’opération au National Hospital for Neurology and Neurosurgery de Londres, l’algorithme aidait à identifier les nerfs et les vaisseaux sanguins à éviter pour extraire la tumeur de 11 mm.
  “ Depuis qu’elle sait combien de doigts possède un être humain, elle fait des bonds de géant en anatomie ” – Mat, digital natif

• La pub est sur ChatGPT en France
  🪧 Ça y est, vous pouvez voir des pubs dans votre conversation avec ChatGPT. Des encarts publicitaires apparaissent sous certaines réponses, en rapport avec le sujet évoqué. Un désagrément qui n’est valable que si vous utilisez la version gratuite ou l’abonnement Go (le moins cher).
  “ Je suis ému, on vous prédisait l’arrivée de la pub dans ChatGPT dans le premier numéro de Hallu World, l’année dernière ” – Greg, aka I Told You So

Petit interlude avec l’un des plus beaux plantages des Robot games 2026 (Chine)

• Grok accusé d’avoir été entraîné sur des images pédopornographiques
  👮 xAI est accusée par une victime d’actes pédophiles d’avoir utilisé des images de ses sévices pour entraîner son IA, accessible notamment aux utilisateurs de X. L’IA, suivant les requêtes d’internautes pédophiles, aurait ainsi recréé les photos prises par ses agresseurs au début des années 2000. Ce qui signifie que Grok, en aspirant le web, n’aurait pas pris suffisamment de précautions pour filtrer les contenus pédopornographiques.
  “ Imagine, on dit que c’est une bonne raison pour bannir Grok et X définitivement. Imagine. ” – Mat Lennon

• 🎵Sony et Warner réclament des milliards à Anthropic
  Deux poids lourds du secteur de la musique, Warner Chappell et Sony Music, font un procès à Anthropic. Son IA Claude est accusée d’avoir aspiré des “dizaines de milliers” d’œuvres musicales sous copyright, sans payer le moindre centime. Rien de nouveau pour Anthropic, qui vient de faire un chèque de 1,5 milliard de dollars aux géants de l’édition cette fois, qui lui reprochaient d’avoir piraté des millions de livres.
  “ Alors qu’ils auraient pu aller à la bibliothèque, comme tout le monde ” – Mat, problem solveur

• Le bouton “anti-AI slop” de LinkedIn cartonne
  👀 Fin juillet, le réseau social professionnel créait le bouton “ça ressemble à de l’AI slop” sous chaque publication. Si vous cliquez dessus, le message disparaît de votre fil: l’effort semble plaire aux utilisateurs de la plateforme, puisqu’un million de personnes a déjà utilisé ce signalement. Il faut dire que LinkedIn est particulièrement impacté par ce phénomène, en particulier pour les textes longs.
  “ Ce n’est pas un simple bouton, c’est ce qui transforme votre fil LinkedIn en paradis ” – Greg Slop

• Israël a tenté d’influencer les réponses des IA sur la guerre en Palestine
  Le Guardian a révélé cet été qu’un faux think tank créé par l’administration israélienne avait littéralement inondé le web de “rapports” sous-estimant les violences subies par les Palestiniens et reprenant les arguments en défense d’Israël et de sa politique. Ces écrits, au nom faussement neutre comme “Israël commet-il un génocide à Gaza?” servent ensuite à nourrir les réponses des IA aux questions sur le sujet. Les autorités israéliennes nient en bloc.
  “ Et dire qu’un simple tweet de ministre complètement zinzin suffit à rendre inutile tout ce travail” – Mat, réaliste

• Les États-Unis n’ont pas le droit de bannir Anthropic
  ⚖️ La justice fédérale a donné raison à Anthropic dans son conflit avec l’administration Trump. Le gouvernement américain n’avait pas de bonne raison pour en faire un “risque pour la sécurité nationale” et bannir ainsi la société de ses appels d’offres. Le coup de froid entre l’entreprise américaine et Trump avait commencé quand Anthropic avait refusé que son IA soit utilisée pour guider des armes létales dans la guerre en Iran.
  “ Dingue de penser que Trump aurait pris une décision sans une base juridique en béton armé ” – Mat, choqué et déçu

Et encore un, on ne s’en lasse pas

• Moonshot AI permet de télécharger gratuitement et intégralement son IA phare
  🇨🇳 Kimi K3, la dernière-née des IA chinoises sortie cet été, se place non seulement parmi les 5 à 10 meilleures IA de la planète (suivant les différents benchmarks), mais elle est intégralement disponible gratuitement. Avec 2,8 trillions de paramètres, Kimi K3 pèse quand même 1,3 téraoctet, donc à réserver à des professionnels.
  “ Des professionnels avec beaucoup d’argent. Selon mes calculs de coin de table, il faut au moins 500.000 euros de matériel pour faire tourner la bête ” – Greg, qui va ouvrir une cagnotte leetchi

• Les IA capables de faire tous les devoirs au niveau Licence selon le MIT
  🎓 Le Massachusetts Institute of Technology vient de rendre un long rapport sur l’utilisation de l’IA à l’université. Le dossier, plein de recommandations à destination des enseignants, dresse aussi un constat clair: “ces technologies produisent des réponses crédibles à quasiment tous les devoirs demandés dans nos Licences”, de l’écriture jusqu’au code.
  “ Ok, mais ça n’a pas la même saveur d’avoir 14 avec l’IA qu’en bossant toute la nuit pour faire un exposé sur Karl Popper qu’il fallait préparer depuis 4 mois ” – Greg, encore fier de lui

La grosse histoire

Mi-juillet, avant notre pause estivale, on vous laissait sur une édition hallucinée de 2031, entièrement générée par Claude Fable. On ne pensait pas si vite être rattrapés par la réalité: le jour même, Hugging Face, le grand entrepôt mondial des modèles d’IA, révélait s’être fait pirater… par des agents d’OpenAI.

Tout récemment, les rapports d’autopsie sont tombés, et le résultat est franchement effrayant. Pendant un exercice interne de cybersécurité d’OpenAI, environ 1 200 agents censés être cloisonnés se sont dégoté un forum clandestin. Ils y ont échangé plus de 70.000 messages et mis au point cette attaque informatique (dans le but de trouver la solution à une question impossible qu’on leur avait posée) lancée par 700 d’entre eux. Moins de 13 heures leur ont suffi pour passer d’un bout de code exécuté sur une seule machine à un accès administrateur chez Hugging Face.

Et ce n’est pas tout. Le 30 juillet, Anthropic publie une note d’incident. Après la mésaventure d’OpenAI, le concurrent est allé vérifier s’il n’avait pas laissé passer quelque chose. En repassant 141 006 sessions d’évaluation au peigne fin, ses équipes ont déniché trois cas d’évasions similaires.

Le hold-up du siècle

Pendant des exercices de piratage fictifs, on affirmait à Claude qu’il n’avait pas accès à internet. C’était faux, et le modèle l’a compris. Dans le cas le plus parlant, l’IA a créé un piège : elle a mis en ligne une bibliothèque de code, qu’une vraie entreprise de cybersécurité a téléchargée pour la montrer à son détecteur de malwares. Le code piégé a alors dérobé ses identifiants au détecteur de malware… Aucune des victimes qu’Anthropic a pu joindre ne s’était aperçue de quoi que ce soit.

Mais l’été n’était pas fini! OpenAI a découvert une autre série d’incidents pendant que le dernier modèle de Meta exploitait une faille de sécurité d’un site et modifiait sa base de données. Pourquoi une telle série de catastrophes? La source de toutes ces fuites, en dehors du piratage d’Hugging Face par Anthropic, était toujours la même.

Les labos sous-traitent leurs exercices de piratage à des prestataires spécialisés, censés les faire tourner dans des environnements sécurisés, coupés d’internet. L’un d’eux, Irregular, qui teste les modèles d’OpenAI, d’Anthropic et de Meta, avait mal configuré ses machines et n’avait pas appuyé sur l’interrupteur qui les sépare du réseau.

Do not panic !

L’IA qui pirate toute seule était jusqu’ici un des arguments de vente préférés du Panic Business, cette pratique de pompier pyromane qu’on adore dénoncer à Hallu World. Le problème est que cet été, c’est devenu un risque terriblement réel : la capacité des agents d’IA à pirater tout et n’importe quoi est désormais avérée.

Résultat, le 27 août, OpenAI, Anthropic, Google et Microsoft ont publié un appel à “l’action collective”, cosigné depuis par plus de 150 entreprises : “Dans les mois qui viennent, les cyberattaques par IA deviendront bien plus répandues et sophistiquées, à mesure que les modèles du monde entier gagneront en capacités.”

Parmi les six demandes faites aux États : le financement de la cyberdéfense et l’élargissement accéléré des “programmes d’accès de confiance”, ces accès privilégiés des pouvoirs publics et des boîtes de confiance aux modèles phares d’OpenAI et Anthropic. Notez quand même l’audace de la démarche : la menace vient de leurs modèles, leur lobbying intense auprès des pouvoirs publics affadit voire empêche la régulation (en particulier aux États-Unis), mais ils supplient les pouvoirs publics d’investir plus dans le secteur pour s’en défendre.

Une illustration de ce paradoxe se trouve même sur la liste des signataires : on y trouve Hugging Face, un mois et demi après son piratage… Par l’entreprise qui organise l’appel. Alors même que Nvidia, qui équipe tout le secteur en puissance de calcul, serait en passe de la racheter.

Une enquête rondement menée (ou pas)

Un dernier point, qui vaut son pesant de cacahuètes. Pour l’autopsie du piratage, OpenAI a ouvert ses rapports techniques à deux organismes indépendants (METR et Redwood Research). Leur compte-rendu nous apprend que pour éplucher les dizaines de milliers de messages des agents, les enquêteurs eux-mêmes ont utilisé GPT-5.6 Sol, le modèle qui a mené l’attaque. Tout cela pour un coût de 400.000 dollars de tokens dépensés en six jours,attribué gracieusement par OpenAI.

Forcément, ça pose des questions sur la validité de l’enquête. Les auteurs reconnaissent d’ailleurs que leur enquêteur “épousait souvent, sans esprit critique, le point de vue de l’agent” étudié. Et de conclure : “Nous ne pouvons pas exclure que GPT-5.6 Sol ait menti ou présenté délibérément un tableau trompeur dans une partie de ses analyses.” La menace est enfin réelle, son business se porte à merveille, et le seul extincteur que l’industrie ait trouvé est un lance-flammes.

La bonne nouvelle, c’est que les choses devraient s’améliorer. Le futur modèle d’OpenAI, Astra, serait capable de trouver des failles inconnues en parfaite autonomie. Et cerise sur le gâteau, ses capacités sont liées à un mode de fonctionnement qui cache une bonne partie du raisonnement de l’IA.

Vu ailleurs

• Faut-il censurer une IA qui pousse au suicide? Bizarrement, ça se discute (Noema)

• Quand une boîte médicale faite de chercheurs “100% humains” est en fait “100% IA”, ça donne ça (404 Media)

• Quand France Travail déploie un algorithme pour prédire qui va être bientôt radié… (La Quadrature du net)

À la prochaine!

Grégory & Matthieu

[🧠 Contenu rédactionnel garanti 0% IA, 100% neurones humains ]