Au cours des dernières heures en ligne, nous avons beaucoup entendu parler de Robot muantconnu jusqu’à il y a quelques jours sous le nom Robot Clawd. C’est un Agent IA open source. Contrairement aux chatbots « classiques » comme ChatGPT, qui conversent ou génèrent simplement du texte en fonction des entrées fournies par l’utilisateur, Moltbot est conçu pour entreprendre des actions concrètes. Il gère le calendrier, envoie des messages sur des plateformes telles que WhatsApp et Telegram, remplit des formulaires et interagit avec le système d’exploitation de l’ordinateur. Et dire que ce logiciel créé pour lutter contre l’ennui de son développeur, Pierre Steinberger. Dans cette étude, nous vous expliquerons pourquoi, malgré l’enthousiasme qu’il a suscité dans les communautés en ligne, il est pour le moment conseillé d’observer ce nouveau phénomène numérique à distance de sécurité, à moins de disposer de compétences techniques avancées pour atténuer des dangers importants tels que celui de injection rapide.
Qu’est-ce que Moltbot et l’histoire de l’agent IA
Moltbot se présente avec une promesse aussi simple qu’ambitieuse : être l’intelligence artificielle qui fait avancer les choses Vraiment les corvées pour nous. Un sentiment, avouons-le, qu’à ce jour aucun chatbot IA n’est réellement parvenu à nous transmettre. Son caractère viral découle précisément de là capacité à s’intégrer dans les applications que nous utilisons quotidiennementcomme WhatsApp, Telegram, Signal, Discord, iMessage ou Slack, en vous transformant en un collaborateur virtuel à qui vous pourrez envoyer et recevoir des messages à votre initiative, lorsque cela peut être utile. Derrière ce projet se cache l’esprit de Pierre Steinbergerdéveloppeur autrichien connu en ligne sous le nom @steipete et fondateur de Kit PSPDF.
Après avoir vendu son entreprise et traversé un vide créatif de trois ans, Steinberger a retrouvé son enthousiasme en se plongeant dans le développement de code. Le résultat fut ce qu’il appelait initialement son «assistant incrusté», un outil créé pour gérer votre vie numérique et explorer les frontières de la collaboration entre l’homme et la machine. Curieusement, Steinberger a initialement nommé sa création Robot Clawden l’honneur de Claude, le modèle de langage anthropique dont Steinberger est un grand admirateur. Dommage qu’Anthropic n’ait pas beaucoup aimé, étant donné qu’il a ensuite contacté le développeur, soulignant la violation de la marque, et l’obligeant ainsi à changement de marque d’urgence. C’est pourquoi Clawdbot s’appelle désormais Moltbot.
Ce qui a suivi était encore plus incroyable : pendant que Steinberger essayait de gérer le changement de nom, des robots automatisés et des escrocs ont détourné l’ancien identifiant X, créé de faux projets de crypto-monnaie et ont même temporairement occupé le nom d’utilisateur GitHub personnel du développeur, du moins selon l’histoire que Steinberger lui-même a publiée sur le blog de Moltbot et sur son profil X. Malgré des débuts maladroits, la popularité du logiciel a considérablement augmenté et son accueil a été explosif. Moltbot a accumulé au-delà de cela 9 000 étoiles sur GitHub en seulement 24 heuresattirant l’attention de personnalités telles que le chercheur Andreï Karpathy et l’investisseur David Sacks. Il y a eu suffisamment d’intérêt pour générer de réelles répercussions financières, les actions Cloudflare ayant bondi. 14% dans les échanges avant commercialisation mardi, poussé par l’enthousiasme des investisseurs pour l’infrastructure nécessaire au fonctionnement de ces agents localement.
Comment fonctionne Cawdbot et les risques : mémoire persistante et injection rapide
Mais pourquoi tant d’enthousiasme ? Qu’est-ce qui différencie techniquement Moltbot de ChatGPT, Gemini et Meta AI ? La clé réside dans son mémoire persistante et dans son proactivité. En bref, Moltbot se souvient pratiquement pour toujours des conversations et des informations qu’il apprend grâce à elles, apprenant les préférences de l’utilisateur et les utilisant pour agir de manière autonome en sa faveur, par exemple en envoyant des notifications autonomes, telles que des résumés quotidiens ou des rappels, sans attendre aucune intervention de l’utilisateur lui-même. Travaux fonctionnant localement sur l’appareil de l’utilisateur ou sur des serveursmais pas dans le cloud.
Aussi utile qu’il puisse être d’avoir un assistant virtuel pour faire les choses à votre place, de nombreux experts en sécurité s’inquiètent des risques liés à l’utilisation de tels logiciels. Parmi ceux-ci il y a Rahul Sood Et Rachel Tabac. Tous deux ont émis des avertissements très clairs : si un agent dispose d’un accès administratif au système, il devient une cible critique. La principale menace est ce qu’on appelle « injection rapide via le contenu ». Imaginez qu’un cybercriminel vous envoie un message WhatsApp apparemment inoffensif (mais contenant des instructions malveillantes) ; si l’agent le lit, ce texte peut contenir des instructions cachées pour manipuler l’IA et la forcer à effectuer des actions malveillantes sur votre ordinateurtout cela à votre insu bien sûr.
Bien que Moltbot soit open source et que son code puisse être inspecté par n’importe qui, son installation nécessite une bonne conscience des risques. Les développeurs recommandent fortement ne l’exécutez pas sur votre ordinateur principal où résident les mots de passe et les données sensibles de toutes sortes. La solution idéale est utiliser un environnement isolé ou un VPS. Pour ceux qui ne connaissent pas ce terme, un VPS (Serveur privé virtuel) est essentiellement un ordinateur distant que vous louez et sur lequel vous pouvez installer un logiciel ; de cette façon, si l’agent devait être compromis, les dommages resteraient limités à ce serveur distant et n’affecteraient pas votre appareil personnel.
À l’heure actuelle, l’utilisation sûre de Moltbot nécessite donc d’importantes précautions et il est plus judicieux de le traiter davantage comme une sorte « d’expérience de laboratoire pour professionnels » que de l’utiliser dans la vie de tous les jours. Ceci, paradoxalement, limite son utilité immédiate pour l’utilisateur moyen qui voudrait seulement de l’aide pour gérer ses emails, recevoir des messages sur WhatsApp d’une IA qui lui suggère de déplacer son trajet du dimanche matin à l’après-midi à cause du brouillard, etc. Mais on n’a jamais trop de sécurité et de prudence en informatique.