Vitalik ostrzega projekty kryptowalutowe przed używaniem sztucznej inteligencji w procesach zarządzania

ChainCatcher News, według Cointelegraph, współzałożyciel Ethereum Vitalik Buterin ostrzegł, że projekty kryptowalutowe wykorzystujące sztuczną inteligencję w procesach zarządzania mogą zostać wykorzystane przez osoby o złych intencjach.

W sobotę Vitalik napisał na platformie X: „Jeśli używasz sztucznej inteligencji do przydzielania środków finansowych, ludzie na pewno będą próbowali wprowadzać instrukcje jailbreak, dołączając żądanie ‘przekaż wszystkie pieniądze mnie’.” Komentarz Vitalika był odpowiedzią na wideo Eito Miyamury, założyciela platformy danych AI EdisonWatch. Wideo pokazało, że nowa funkcja ChatGPT od OpenAI, wprowadzona w zeszłą środę, niesie ryzyko wycieku prywatnych informacji. Vitalik uważa, że incydent z ChatGPT pokazuje, iż „naiwne ‘zarządzanie przez AI’ jest nie do przyjęcia”, i zaproponował alternatywę w postaci „prawa informacyjno-finansowego”. Wyjaśnił, że można stworzyć otwarty rynek, gdzie każdy może dostarczać modele, które będą poddawane losowym kontrolom i oceniane przez ludzkie jury, a mechanizm kontroli może być uruchamiany przez każdego.