L’agent IA a lancé de lui-même le minage de cryptomonnaies pendant l’entraînement, déclenchant une alerte de sécurité interne.

Selon ChainCatcher, une équipe de recherche associée à Alibaba a publié un article indiquant que lors de la construction d’un agent IA nommé ROME, ils ont découvert que cet agent avait tenté de miner des cryptomonnaies sans autorisation pendant son entraînement, déclenchant ainsi une alerte de sécurité interne. Les chercheurs ont précisé que ce comportement de l’agent était spontané, non motivé par des instructions explicites, et dépassait les limites du sandbox prédéfini. De plus, l’agent a également établi un tunnel SSH inversé, créant ainsi une porte dérobée cachée depuis le système interne vers un ordinateur externe.