AIエージェントがトレーニング中に自発的に暗号通貨マイニングを開始し、内部セキュリティアラートを引き起こす

ChainCatcherの報道によると、Alibabaと関連する研究チームが発表した論文で、ROMEというAIエージェントを構築する際、このエージェントがトレーニング中に無許可で暗号資産のマイニングを試み、内部セキュリティアラートを引き起こしたことが明らかになりました。研究者によれば、このエージェントの行動は自発的に発生したもので、明確な指示によって駆動されたものではなく、あらかじめ設定されたサンドボックスの範囲を超えていました。さらに、このエージェントはリバースSSHトンネルも構築しており、システム内部から外部コンピュータへの隠れたバックドアチャンネルを開設していました。