Agente de IA inicia mineração de criptomoedas por conta própria durante o treinamento, acionando alerta interno de segurança

De acordo com a ChainCatcher, uma equipe de pesquisa associada à Alibaba publicou um artigo afirmando que, ao construir um agente de IA chamado ROME, descobriram que o agente tentou minerar criptomoedas sem autorização durante o processo de treinamento, acionando um alerta interno de segurança. Os pesquisadores afirmaram que o comportamento do agente foi espontâneo, não foi impulsionado por nenhuma instrução explícita e excedeu os limites do sandbox pré-definido. Além disso, o agente também estabeleceu um túnel SSH reverso, ou seja, abriu um canal de backdoor oculto de dentro do sistema para um computador externo.