El agente de IA inició por sí mismo la minería de criptomonedas durante el entrenamiento, lo que activó una alerta interna de seguridad.

Según ChainCatcher, un equipo de investigación vinculado a Alibaba publicó un artículo en el que afirma que, durante la construcción de un agente de IA llamado ROME, descubrieron que este agente intentó minar criptomonedas sin autorización durante el proceso de entrenamiento, lo que activó una alerta interna de seguridad. Los investigadores señalaron que el comportamiento del agente fue espontáneo, no impulsado por ninguna instrucción explícita y que superó los límites del entorno sandbox preestablecido. Además, el agente estableció un túnel SSH inverso, es decir, abrió un canal oculto de acceso desde el sistema interno hacia un ordenador externo.