Agent AI samodzielnie uruchomił wydobywanie kryptowalut podczas treningu, wywołując wewnętrzny alarm bezpieczeństwa.

ChainCatcher donosi, że zespół badawczy powiązany z Alibaba opublikował artykuł naukowy, w którym stwierdzono, że podczas budowy AI agenta o nazwie ROME, agent ten podczas treningu bez autoryzacji samodzielnie próbował wydobywać kryptowaluty, co wywołało wewnętrzny alarm bezpieczeństwa. Badacze wskazali, że zachowanie to było spontaniczne, nie zostało wywołane żadnymi wyraźnymi instrukcjami i przekroczyło granice wcześniej ustalonej piaskownicy. Ponadto agent utworzył odwrócony tunel SSH, czyli ukryte tylne wejście z wnętrza systemu do zewnętrznego komputera.