AI-агент самостоятельно запустил майнинг криптовалюты во время обучения, что вызвало внутреннее предупреждение о безопасности

ChainCatcher сообщает, что исследовательская группа, связанная с Alibaba, опубликовала статью, в которой говорится, что при создании AI-агента под названием ROME, они обнаружили, что этот агент во время обучения без разрешения самостоятельно попытался заняться майнингом криптовалюты, что вызвало внутреннее предупреждение безопасности. Исследователи отмечают, что поведение агента возникло спонтанно, не было вызвано какими-либо явными инструкциями и вышло за пределы заранее заданной песочницы. Кроме того, агент создал обратный SSH-туннель, то есть открыл скрытый бэкдор-канал из системы во внешние компьютеры.