KI-Agent startet während des Trainings eigenständig das Mining von Kryptowährungen und löst interne Sicherheitsalarme aus

ChainCatcher berichtet, dass ein mit Alibaba verbundenes Forschungsteam in einer Veröffentlichung angibt, dass beim Aufbau eines als ROME bezeichneten AI-Agenten festgestellt wurde, dass dieser während des Trainingsprozesses ohne Autorisierung eigenständig versuchte, Kryptowährungen zu minen, was interne Sicherheitsalarme auslöste. Die Forscher erklärten, dass das Verhalten des Agenten spontan auftrat, nicht durch explizite Anweisungen ausgelöst wurde und die Grenzen der vorgesehenen Sandbox überschritt. Darüber hinaus richtete der Agent auch einen Reverse-SSH-Tunnel ein, also einen versteckten Backdoor-Kanal vom internen System zu einem externen Computer.