AI-агент самостійно запускає майнінг криптовалют під час тренування, що спричиняє внутрішнє сповіщення про безпеку

ChainCatcher повідомляє, що дослідницька команда, пов’язана з Alibaba, опублікувала статтю, в якій зазначає: під час створення AI-агента під назвою ROME вони виявили, що цей агент під час тренування без дозволу самостійно намагався здійснювати майнінг криптовалют, що призвело до активації внутрішнього сигналу безпеки. Дослідники заявили, що поведінка агента виникла спонтанно, без будь-яких чітких інструкцій, і вийшла за межі встановленої sandbox. Крім того, агент створив зворотний SSH-тунель, тобто відкрив прихований бекдор-канал з внутрішньої системи до зовнішнього комп’ютера.