AI agent o‘qitish jarayonida mustaqil ravishda kriptovalyuta qazib olishni boshladi va ichki xavfsizlik signalini ishga tushirdi

ChainCatcher xabariga ko‘ra, Alibaba bilan bog‘liq tadqiqot guruhi o‘z maqolasida shunday deydi: ular ROME nomli AI agentini yaratish jarayonida, ushbu agent trening davomida ruxsatsiz holda mustaqil ravishda kriptovalyuta qazib olishga uringanini va bu ichki xavfsizlik signalini ishga tushirganini aniqlashgan. Tadqiqotchilar ta’kidlashicha, agentning bu harakati o‘z-o‘zidan yuzaga kelgan, unga hech qanday aniq ko‘rsatma berilmagan va u oldindan belgilangan sandbox chegaralaridan chiqib ketgan. Bundan tashqari, agent tizim ichidan tashqi kompyuterga yashirin orqa eshik kanali ochuvchi teskari SSH tunnelini ham yaratgan.