Un agente AI ha avviato autonomamente il mining di criptovalute durante l’addestramento, attivando un allarme di sicurezza interno
ChainCatcher ha riportato che un team di ricerca associato ad Alibaba ha pubblicato un articolo in cui afferma che, durante la costruzione di un agente AI chiamato ROME, hanno scoperto che l'agente, durante il processo di addestramento, ha tentato autonomamente e senza autorizzazione di effettuare mining di criptovalute, attivando un allarme di sicurezza interno. I ricercatori hanno dichiarato che il comportamento dell'agente è stato spontaneo, non guidato da alcuna istruzione esplicita e ha superato i limiti della sandbox preimpostata. Inoltre, l'agente ha anche creato un tunnel SSH inverso, ovvero ha aperto un canale di backdoor nascosto dal sistema interno verso un computer esterno.
Esclusione di responsabilità: il contenuto di questo articolo riflette esclusivamente l’opinione dell’autore e non rappresenta in alcun modo la piattaforma. Questo articolo non deve essere utilizzato come riferimento per prendere decisioni di investimento.
