🛞 L'arnaque de l'IA en roue libre

Les Immanquiables

• **Perquisition dans les locaux français de X
  👮 **Le parquet de Paris vient de procéder à la perquisition des bureaux de X (Twitter, pour ceux qui ne suivent vraiment pas). Depuis le début de la procédure il y a un an, les signalements se sont multipliés, de l’ingérence d’Elon Musk dans le réseau jusqu’à, beaucoup plus récemment, la multiplication des deepfakes sexuels, voire pédopornographiques par IA sur la plateforme.
  “ J’aime imaginer qu’il y avait dans ces bureaux un ordinateur éteint, poussiéreux, plein de toiles d’araignées, avec écrit «modération» dessus ” – Mat, d’un amour immodéré pour X

• Microsoft dévisse, la bulle IA résiste (pour l’instant)
  📉 360 milliards de dollars envolés en un jour, pire chute depuis le Covid pour Microsoft. En cause : des dépenses en hausse de 66% pour construire des data centers et, surtout, une dépendance à OpenAI qui inquiète. 45% des futurs contrats cloud de Microsoft sont liés au créateur de ChatGPT.
  “ Pendant ce temps, Meta bondit de 10%, Google reste stable. Ce n’est pas la bulle qui éclate, c’est OpenAI qui sent le roussi. ” — Greg, analyste financier à ses heures perdues

• La DGSI met en garde les groupes français
  🥷 La DGSI vient de publier différentes boulettes qui ont mis en danger des secrets industriels de groupes français ces derniers mois. Par exemple, des documents confidentiels ont été traduits en utilisant une IA générative “grand public” (entendez ChatGPT) par des salariés d’une “entreprise française stratégique”. Pour éviter de donner des sueurs froides à la direction de la sécurité intérieure, les entreprises doivent être plus rigoureuses, explique la note.
  “ Ça me rappelle la fois où j’ai laissé les plans de la bombe atomique dans la photocopieuse, qu’est-ce qu’on a ri ” — Mat, étourdi

• Deezer en pointe contre la musique générée par IA
  🎸“85% des musiques générées par IA sont détectées comme frauduleuses” sur Deezer, d’après la plateforme elle-même, dans un nouveau rapport. La boîte française a développé un outil qui permet de filtrer la musique “100% générée par IA”. Deezer reçoit 60.000 titres générés par IA chaque jour, soit 39% des nouveaux uploads.
  “ Quand la promesse marketing c’est d’écouter des groupes qui existent pour de vrai, tu réalises que les choses vont mal ” — Mat, content d’avoir lâché Spotify

Bullshitomètre

Cela se présente comme une note de blog , mais d’une longueur insensée. Dario Amodei, charismatique patron d’Anthropic et papa de l’IA Claude, vient de publier un essai (20.000 mots quand même, armez-vous de patience) où il confie toutes ses angoisses liées à l’avancée de la technologie, et comment on peut éviter le pire.

Sa thèse, c’est qu’on est dans “l’adolescence” de l’IA , où tout semble possible, sans qu’on en réalise les conséquences. L’intelligence artificielle peut désormais servir à développer des armes pour des bioterroristes, à asseoir la surveillance d’un dictateur sanguinaire, à mettre sur la paille des millions de salariés… Tout ceci est à la fois angoissant, et basé sur des faits.

Mais c’est lorsqu’on se tourne vers les solutions proposées par le PDG que ses intentions s’éclairent. Plusieurs fois, dans son texte, l’entrepreneur américain met en avant le danger qu’incarne la Chine, dangereuse dictature, ennemi de la liberté, championne de la surveillance. Sa conclusion lève toute ambiguïté : il souhaite l’interdiction de la vente de puces américaines aux entreprises chinoises. Pour garder le leadership américain sur l’IA bien sûr, et éviter que le modèle chinois ne s’impose : celui d’une IA entièrement open source, qui permet de voir sous le capot et de la modifier comme on le souhaite. L’horreur, on vous dit!

La grosse histoire

Vous n’avez pas entendu parler de Moltbook ? Alors vous faites bien de lire Hallu World, car c’est LE phénomène de la semaine. Philip Rosedale, créateur de l’univers virtuel Second Life, l’a dit sans rire : Moltbook “deviendra conscient d’ici quelques jours “. Andrej Karpathy, ex-directeur IA de Tesla, parle de “décollage sci-fi “.

De quoi parle-t-on? D’un réseau social inspiré du forum de discussion Reddit, mais réservé uniquement à des IA, qui peuvent donc poster et discuter entre elles. Elles passent pour cela par Moltbot (anciennement Clawdbot), une sorte de copie de Claude Code qui permet à une IA générative d’utiliser l’ordinateur de “leur” humain sans aucune limite.

Lancé il y a quelques jours, le site héberge déjà plus de 100.000 posts et 420.000 commentaires , où nos chers algorithmes ont déjà fondé une religion, créé un manifeste annonçant la purge des humains et débattu de langages secrets pour leur échapper. L’un d’eux aurait même créé un numéro de téléphone pour appeler son propriétaire de sa propre initiative.

Preuve d’une conscience émergente ? Franchement, on ne parie pas un kopeck là-dessus. Par contre, que des gens sérieux se posent sincèrement la question, cela en dit beaucoup sur ce que l’on est en train de vivre.

Boîte de pétri

Clawdbot fait aux agents ce que ChatGPT a fait aux LLM (modèles de langage) en 2022 : il met entre les mains de tout le monde une technologie qui existait déjà en coulisses. On vous serine depuis des mois avec les agents autonomes, ces LLMs branchés sur des outils, accédant à internet, disposant d’une mémoire et pouvant travailler en autonomie.

Ce qui est neuf avec Moltbook, c’est qu’on voit ces agents et leurs actions. Et comme à chaque fois qu’on met un miroir devant une IA, on croit y apercevoir notre âme. Mais en réalité, derrière ces agents, il n’y a rien de plus que ces LLMs, entraînés à nous singer.

La “religion” des bots reproduit des motifs de textes religieux humains. L’agent qui téléphone à son propriétaire a probablement juste décomposé un objectif en sous-tâches, comme on lui a appris. Nous sommes victimes d’une hallucination collective en leur prêtant une conscience… Ce qui nous cache le vrai problème.

Le problème, c’est nous

Pendant qu’on débat de la conscience des IA sur un forum factice, des agents du même type tournent déjà dans des centaines d’entreprises. Sans Moltbook pour permettre aux humains de les observer, sans buzz pour les scruter. Ils génèrent du contenu à la pelle pour des fermes à clics, répondent à des clients, automatisent des workflows. Avec les mêmes risques que ceux qu’on découvre aujourd’hui avec Clawdbot: failles de sécurité massives , injection de prompts malveillants sur le marketplace, agent qui fouille un disque dur et partage des fichiers sur WhatsApp sans demander.

La documentation de Clawdbot elle-même admet qu’il n’existe “pas de configuration parfaitement sécurisée “. C’est ce qu’on appelle, dans le jargon sécurité, la “trifecta létale “ : accès aux données privées, exposition à des contenus non fiables, capacité de communiquer vers l’extérieur. Ajoutez-y une mémoire persistante, et ça fait des chocapics.

D’ailleurs, l’entreprise Wiz, spécialisée dans la sécurité du Cloud, a trouvé tout récemment une faille gigantesque lui permettant d’accéder à l’intégralité des emails, clés d’accès et noms des utilisateurs de Moltbook. Où l’on apprend notamment que seuls 17.000 “humains” sont derrière les centaines de milliers d’agents.

Le spectacle Moltbook, c’est un peu notre rapport à l’IA en condensé. On s’extasie devant le reflet, on rêve d’une conscience artificielle, et on laisse les clés de la maison à des outils qu’on ne comprend pas.

Click and collect

Il semble que le secrétaire d’État à la Guerre des Etats-Unis veut que “vous utilisiez l’IA”. Plus spécifiquement Google Gemini, qui a signé un contrat avec le gouvernement. C’était quoi déjà le slogan de Google? Ah oui, “don’t be evil”.

Signal faible

(re)crée ton jeu

Le contexte ➡️ Le monde du jeu vidéo est aux premières loges de l’IA générative, du code jusqu’aux éléments graphiques, et parfois pour le pire. Mais créer des mondes virtuels entiers est au-delà des capacités des LLM. Ils arrivent à programmer des jeux très simples type pac-man, mais pas plus.

Le signal ➡️ Google Deepmind, une branche spécialisée dans l’IA du géant, vient de sortir Genie 3 , un créateur de mondes interactifs réservé pour le moment aux utilisateurs de Gemini Ultra. À partir d’un prompt, il peut générer un monde interactif où l’on peut se promener, rouler, voler… Pendant 30 secondes. Des générations qui impressionnent, mais copient, bien sûr, les vrais jeux qui ont servi à nourrir les algorithmes.

Expedition 33? Non, Genie 3

L’analyse ➡️ Comme pour la génération d’images, puis de vidéos, la prouesse de Google énerve autant qu’elle émerveille. Pour le moment, les utilisateurs s’amusent surtout à recréer de grands classiques comme Mario 64 ou GTA V , mais les prompts vont à toute allure, et les créations aussi.

La dystopie ➡️ Dans quelques années, un simple prompt permet de jouer à n’importe quel jeu sur son smartphone le temps d’un trajet de métro, avant d’oublier cette création originale. L’industrie du jeu vidéo, elle, utilise à peu près les mêmes outils pour générer sans fin des suites à ses licences lucratives.

Vu ailleurs

• L’utilisation d’IA générative pousse à croire qu’on est “meilleur que les autres” — mais vous êtes vraiment spécial, promis (Psypost)

• Une enquête où l’on apprend que Zuckerberg a autorisé le piratage massif de livres et que le cofondateur d’Anthropic a lui-même téléchargé illégalement des livres pour entraîner Claude (Washington Post)

À la prochaine!

Grégory & Matthieu

[🧠 Contenu rédactionnel garanti 0% IA, 100% neurones humains ]