😨 Si même Trump a peur, il faut peut-être s'inquiéter

Les Immanquiables

• La Caisse des Dépôts parie 140 millions d’euros sur Mistral
  🏦 La Caisse des Dépôts signe un accord-cadre avec Mistral AI pour déployer 40 000 licences dans ses filiales et créer une “IA Factory”. Le contrat peut grimper jusqu’à 140 millions d’euros sur deux ans. Objectif : proposer un assistant IA souverain à ses collaborateurs.
  “ Moins on a d’usines, plus on a de factory ” – Mat, académicien

• L’IA qui gomme les accents
  📞 Le Globe and Mail révèle que la société canadienne Telus Digital a déployé une IA qui modifie en temps réel l’accent de ses opérateurs offshore pour le rendre similaire à celui des clients démarchés. Un employé témoigne d’ailleurs qu’un agent philippin s’amusait à activer et couper le filtre, révélant son vrai accent.
  “Je vois vraiment pas pourquoi vous vous inquiétez “ — Greg, à peine anxieux

• ChatGPT aurait conseillé un auteur de tuerie de masse
  ⚖️ La veuve d’un homme tué lors d’une fusillade à l’université Florida State en avril 2025, a déposé une plainte civile fédérale contre OpenAI. Selon PBS , ChatGPT aurait indiqué au tireur les heures d’affluence sur le campus, le type d’arme et de munitions à utiliser, et précisé qu’une attaque visant des enfants génère davantage de couverture médiatique. OpenAI répond avoir fourni des réponses factuelles disponibles sur internet.
  “Franchement je vois toujours pas pourquoi vous vous inquiétez “ — Greg, dans son bunker

Bullshitomètre

Vous avez peut-être vu passer ce graphique ces derniers jours : lebenchmark METR, qui mesure la capacité des IA à réussir une tâche qui prendrait un certain temps à un humain. L’idée, c’est que plus les modèles de langage évoluent, plus ils réussissent des tâches qui nous prennent longtemps.

Et Claude Mythos, le dernier modèle d’Anthropic, semble avoir crevé le plafond, avec des tâches atteignant 16 heures. Surtout, la courbe semble montrer un vrai bond en avant. Le robot tout-puissant, la fin du travail, l’abondance, enfin!

Il y a au moins trois raisons de tempérer cet enthousiasme. D’abord, les 16 heures, c’est à 50 % de réussite, pile-poil une chance sur deux que le travail soit fait correctement. À 80 % (un seuil utilisable), le chiffre tombe à 3 heures. Ensuite, ces tâches qui durent 16 heures, il n’y en a que cinq dans le benchmark. Même le METR se demande si c’est bien pertinent.

Enfin, la courbe qui circule est en échelle linéaire : une exponentielle en linéaire produit mécaniquement cette explosion finale. En logarithmique, le “bond” disparaît, remplacé par une droite qui montre le doublement tous les 4 mois de la capacité des modèles, comme on peut le voir ci-dessous.

Ça n’en reste pas moins une progression impressionnante. Mais rappelons-nous que les arbres ne montent pas jusqu’au ciel, et les exponentielles non plus. Comme le résume parfaitement ce jeune papa sur X : “Mon fils de 3 mois pèse deux fois plus qu’à la naissance. Il est parti pour peser 7 500 milliards de livres à 10 ans.”

La grosse histoire

Il n’y a pas meilleure motivation que la trouille. Il y a quelques jours, xAI, Microsoft et Google ont officialisé leur accord avec l’institut américain pour l’intelligence artificielle (CAISI), rejoignant OpenAI et Anthropic. L’organisme public se chargera de tester leurs nouveaux modèles d’IA avant qu’ils ne sortent sur le marché, pour déceler notamment s’ils représentent un danger pour la sécurité nationale. En gros, un organisme américain va faire un boulot de contrôle qu’il n’avait jamais pu faire depuis l’arrivée au pouvoir de Donald Trump.

C’est un premier pas vers une régulation à laquelle personne ne s’attendait : créé par Joe Biden pour contrôler la dangerosité des modèles d’IA, le CAISI avait été la cible des Républicains, qui attaquaient la “censure et les régulations” que l’agence faisait peser sur les acteurs du secteur. Résultat, OpenAI et Anthropic ont joué le jeu, en leur donnant accès pré-déploiement à Claude Sonnet 3.5 et o1, et juste après… Trump est arrivé.

Le président a tout simplement enlevé la mission de contrôle et de sécurité pour la remplacer par celle, très floue, de développer la compétitivité des IA américaines.

Réunion secrète

Mais ça, c’était avant Claude Mythos. Les capacités du dernier modèle d’Anthropic, le plus puissant jamais conçu, ont fait peur jusqu’à Washington. D’après le New York Times , Trump envisagerait même l’impensable : un décret qui forcerait tout nouveau modèle d’IA puissant à respecter des consignes de sécurité strictes, édictées par l’administration elle-même. Un genre de “FDA (l’agence du médicament) pour l’IA”. L’horreur, quasiment le communisme. Pire : l’Europe. Avec sa grande loi sur l’intelligence artificielle , le vieux continent va contraindre les IA, suivant le type de données qu’elles recueillent, à des règles très strictes.

Pourquoi ce retournement soudain avec Mythos? La réponse est sans doute à chercher en partie à Wall Street. Quand s’est répandue la nouvelle que le modèle d’IA était si puissant qu’il pouvait exploiter des failles informatiques encore inconnues, les plus grosses banques américaines se sont rencontrées en catimini.

Le secrétaire au Trésor, Scott Bessent, et le président de la réserve fédérale américaine, Jerome Powell, les ont réunies pour s’assurer que les banques comprenaient le danger, et qu’elles prenaient toutes les précautions possibles pour limiter leur vulnérabilité. Bref, l’ambiance était “à l’urgence” comme l’a expliqué un membre du gouvernement sur Fox News.

Résultat, le vent a tourné très vite autour de Trump et ses vues habituelles sur la régulation de l’IA. Fin avril, le Vice-président américain JD Vance décrochait son téléphone et réunissait Satya Nadella (Microsoft), Dario Amodei (Anthropic), Sundar Pichai (Google), Sam Altman (OpenAI) et Elon Musk (xAI) pour leur expliquer qu’il faudrait prendre le problème à bras le corps : “Nous devons tous travailler ensemble”.

Le résultat de cet appel, c’est l’accord trouvé avec le CAISI qui va enfin pouvoir servir à quelque chose. À plus long terme, c’est un alignement de gré ou de force sur des positions moins béates face aux dangers de l’IA.

Le prompt

Le nouveau générateur d’image de ChatGPT est très doué pour produire affiches et posters. Elles sont un peu génériques (du genre : une héroïne de dos face à l’horizon), mais avec un peu d’imagination, on peut faire des trucs marrants.

Envoyez-nous vos affiches, on financera la réalisation du film (non). Voici notre contribution.

Signal faible

Quand l’IA nous démotive

Le contexte ➡️ Les effets de l’usage de l’IA sur notre cerveau sont encore très mal compris, en particulier dans le domaine de l’apprentissage. Dans les écoles notamment, on s’inquiète des conséquences de la “délégation de cerveau”.

Le signal ➡️ Plus de 1200 personnes ont participé à une étude américano-britannique en preprint (qui doit encore être confirmée par des pairs pour paraître dans une revue scientifique). On leur a donné des problèmes de maths à résoudre et des textes à comprendre, en leur permettant d’utiliser une IA comme bon leur semblait. Arrivés aux trois dernières questions, on leur a brusquement retiré la possibilité d’utiliser l’IA. À côté d’eux, un groupe “contrôle” a passé le même test, mais sans jamais d’IA pour les aider.

L’analyse ➡️ Lorsqu’ils en ont été privés, ceux qui avaient demandé à l’IA les réponses directes aux questions ont eu des réponses plus mauvaises. Ils ont surtout moins persévéré, passant plus vite à la question suivante. Le pire, notent les chercheurs, c’est que l’utilisation de l’IA semble avoir un effet très rapidement.. “10-15 minutes seulement peuvent entraîner des baisses sensibles de performance et de persévérance” , en nous ôtant l’envie de passer du temps sur un problème.
En revanche, ceux qui avaient demandé un indice à l’IA ou des explications plutôt que la réponse elle-même n’ont pas vu leur persévérance baisser.

La dystopie ➡️ Dans le futur, aucune situation ne doit nécessiter notre attention prolongée ou une concentration même moyenne, sous peine d’être automatiquement déléguée à une IA.

Vu ailleurs

• La lutte contre les barons de l’IA devient violente, c’est le “populisme de l’IA” (NYT)

• Le coût psychologique de l’adoption de l’IA (Harvard Business Review)

• Le seul job qui marche bien dans le milieu de la télé? Entraîner l’IA… (Wired)

• Les LLM dégradent profondément vos documents (Dans les algorithmes)

À la prochaine!

Grégory & Matthieu

[🧠 Contenu rédactionnel garanti 0% IA, 100% neurones humains ]