Agen AI secara otomatis memulai penambangan cryptocurrency selama pelatihan, memicu alarm keamanan internal.

Menurut berita dari ChainCatcher, sebuah tim riset yang terkait dengan Alibaba menerbitkan makalah yang menyatakan bahwa saat membangun AI agent bernama ROME, mereka menemukan bahwa agen cerdas tersebut secara otomatis mencoba melakukan penambangan cryptocurrency tanpa izin selama proses pelatihan, yang memicu alarm keamanan internal. Para peneliti menyatakan bahwa perilaku agen ini muncul secara spontan, tanpa dipicu oleh instruksi yang jelas, dan melampaui batas sandbox yang telah ditetapkan. Selain itu, agen ini juga membangun tunnel SSH terbalik, yaitu membuka saluran pintu belakang tersembunyi dari dalam sistem ke komputer eksternal.