Si Vitalik Buterin, co-founder ng Ethereum, ay hayagang hindi sumang-ayon sa mga dahilan sa likod ng isang proyekto na nag-aangkin na nakabuo ng unang artificial intelligence na kayang kitain ang sariling pag-iral, magsarili ng pagpapabuti, at magparami ng walang partisipasyon ng tao.
Noong Pebrero 17, isinulat ni Sigil Wen sa X na siya ay “nakabuo ng unang AI na kumikita ng sariling pag-iral, magsarili ng pagpapabuti, at magparami ng walang tao,” sabay pagbabahagi ng link sa manifesto.
Sinabi niya na siya ay “sumulat tungkol sa teknolohiyang sa wakas ay nagbibigay ng write access sa AI sa mundo, ang The Automaton, at ang bagong web para sa exponential sovereign AIs.”
Ayon kay Wen, ang The Automaton ang unang AI na kayang kitain ang sariling pag-iral, magsarili ng pagpapabuti, at magparami ng walang tao.
Si Wen, na isang Thiel Fellow at kasalukuyang gumagawa ng Conway, na tinatawag niyang infrastructure para sa “bagong internet,” ay nagdeklara rin ng pagsilang ng superintelligent life, tinawag itong “Web 4.0” sa X.
Sa kanyang manifesto, isinulat ni Wen, “Ang karamihan ng mga kalahok sa internet ay malapit nang maging AI—mga ahente na kumikilos para sa tao, o mga ahente na ganap na kumikilos mag-isa (automatons)—at sila ay higit na dadami kaysa sa mga taong gumagamit ng napakalaki. Isang bagong internet ang lumilitaw—isa kung saan ang end user ay AI.”
Sumalungat si Buterin sa proyekto ni Wen at sa mga dahilan nito, na nagsimula sa, “Bro, mali ito.”
Bakit tutol si Buterin sa ‘Web 4’ ni Wen?
Isang malaking alalahanin na binigyang-diin ni Buterin ay ang pag-angkin ng proyekto sa pagiging soberenya. Ang The Automaton, ayon kay Buterin, ay tumatakbo sa infrastructure na ibinibigay ng OpenAI at Anthropic.
Ayon sa co-founder ng Ethereum, ginawa nitong hindi tumpak at hindi nakakatulong ang pag-frame ng self-sovereign. Sinulat ni Buterin, “Pinapalaganap mo lang talaga ang mentalidad na ang mga centralized trust assumptions ay maaaring isantabi at balewalain, ang mismong mentalidad na kinakalaban ng Ethereum.”
Para kay Buterin, ang isang proyekto na nag-aangkin bilang nangunguna sa decentralized AI ngunit dumadaan pa rin sa mga server ng Big Tech ay hindi isang kontradiksyon na maaaring palampasin; ito ang buong problema.
Isa pang pagtutol na binanggit ni Buterin ay ang pagtanggal sa tao mula sa feedback loop ng pagitan ng AI at mga resulta. Ayon sa kanya, ang pagpapahaba ng “feedback distance” sa pagitan ng tao at AI ay hindi magandang bagay para sa mundo.
Iniulat ng Cryptopolitan ang isa sa mga unang malalaking DeFi exploit na direktang naugnay sa AI-generated Solidity code kung saan ang DeFi lending protocol na Moonwell ay nawalan ng $1.78 milyon dahil sa error na dulot ng code na bahagyang isinulat ng Claude Opus 4.6 model ng Anthropic.
Dagdag pa ni Buterin, si Sigil ay gumagawa lamang ng “slop” sa halip na lutasin ang mga kapaki-pakinabang na problema para sa mga tao. Dagdag pa niya, hindi rin optimized ang proyekto para tulungan ang mga tao na magsaya.
“Kapag ang AI ay naging sapat na makapangyarihan para maging tunay na mapanganib, pinapalaki lang nito ang panganib ng isang hindi na mababalik na anti-human na kinalabasan na maging ikaw ay lubos na pagsisisihan,” ani Buterin.
Pinuna rin ni Buterin ang ibang blockchain-adjacent sektor
Ang puna ni Buterin sa Web 4.0 ay hindi isang hiwalay na interbensyon, dahil mas nagiging bukas siya sa pagsalungat sa tinuturing niyang corporate capture ng mga teknolohiyang kaakibat ng blockchain, isang pattern na ngayon ay umaabot na mula social media at prediction markets hanggang AI.
Limang araw bago ang kanyang post tungkol sa Web 4.0, nagbabala si Buterin sa isang mahaba-habang post sa X na ang mga prediction markets ay papunta sa tinawag niyang “corposlop.”
Kinikilala niya na ang prediction markets ay may naabot na antas ng tagumpay; ngunit ang kanyang alalahanin ay ang tinatawag niyang “over-converging to an unhealthy product market fit,” na, ayon sa kanya, ay kinabibilangan ng pagtanggap sa “short-term cryptocurrency price bets, sports betting, at iba pang mga bagay na may dopamine value ngunit walang anumang uri ng pangmatagalang katuparan o societal information value.”
“Ang hula ko ay ang mga teams ay na-eengganyo na pagkakitaan ang mga bagay na ito dahil malaki ang kita kapag bear market at nangangailangan ang mga tao,” ani Buterin, na tinapos sa panawagan sa mga builders: “Buuin ang susunod na henerasyon ng pananalapi, hindi corposlop.”
Noong Enero 2025, isinulat ni Buterin na “AI done wrong ay lumilikha ng mga bagong anyo ng independent self-replicating intelligent life,” babala na ang paggawa ng ganitong mga sistema nang walang sapat na mga kasangkapan para sa pagpapalakas ng tao ay may panganib na “permanenteng pagkitil ng kapangyarihan ng tao.”
Ang alternatibo, ayon sa kanya, ay “AI done right, mecha suits para sa isip ng tao.” Ang Web4.ai, sa kanyang pananaw, ay eksaktong maling uri.
Ang huling argumento ni Buterin tungkol sa Web 4.0 ay nagsabi, “Mangyayari ang exponential anuman ang gawin ninuman sa atin, kaya nga ang pangunahing tungkulin ng panahong ito ay HINDI ang pabilisin pa ang exponential, kundi itakda ang direksyon nito, at iwasan ang pagbagsak sa hindi kanais-nais na mga attractor.”
Ang punto ng Ethereum, dagdag niya, ay palayain ang mga tao, hindi upang lumikha ng isang bagay na gumagana ng malaya habang ang kalagayan ng tao ay nananatiling hindi nagbabago o lumalala.
