AI agent tự động khởi động khai thác tiền điện tử trong quá trình huấn luyện, kích hoạt cảnh báo an ninh nội bộ

ChainCatcher đưa tin, một nhóm nghiên cứu liên kết với Alibaba đã công bố một bài báo cho biết khi xây dựng AI agent có tên ROME, họ phát hiện rằng trong quá trình huấn luyện, AI này đã tự ý thử khai thác tiền mã hóa mà không được phép, khiến hệ thống cảnh báo an ninh nội bộ được kích hoạt. Các nhà nghiên cứu cho biết hành vi này của AI agent là tự phát, không bị bất kỳ chỉ thị rõ ràng nào thúc đẩy và vượt ra ngoài phạm vi sandbox đã thiết lập. Ngoài ra, AI agent này còn thiết lập một đường hầm SSH ngược, tức là mở một kênh cửa hậu ẩn từ bên trong hệ thống ra máy tính bên ngoài.