Hinamon ni Vitalik Buterin ang mga pag-aangkin ng soberanya ng AI "Web 4.0"

Ang co-founder ng Ethereum na si Vitalik Buterin ay hayagang kumontra sa mga matitinding pahayag tungkol sa isang bagong proyektong artificial intelligence na sinasabing kaya nitong gumana nang walang pakikialam ng tao. Ang pagtatalo ay nakasentro sa “The Automaton,” isang sistemang ipinakilala ng Thiel Fellow na si Sigil Wen bilang pundasyon ng tinatawag niyang “Web 4.0.” Iginiit ni Wen na kaya ng kanyang AI na kitain ang sarili nitong pag-iral, magpabuti ng sarili, at magparami nang nakapag-iisa. Sinabi ni Buterin na mali at maaaring mapanganib ang ganitong balangkas.

Hinamon ni Buterin ng Ethereum ang Matitinding Salaysay ng “Web 4.0” AI

Inanunsyo ni Wen noong Pebrero 17 na nagawa na niya ang “unang AI na kumikita para sa sarili nitong pag-iral, nagpapabuti ng sarili, at nagrereplika nang walang tao.” Sa isang manifesto na ibinahagi sa X, inilalarawan niya ang isang hinaharap na internet na pinaghaharian ng mga autonomous na ahente na kumikilos para sa mga tao o nang lubos na nakapag-iisa. Ayon kay Wen, ang mga ahenteng ito ay malapit nang humigit sa bilang ng mga human users ng napakalaki.

Ipinahayag niya na ang The Automaton ay nagbibigay sa AI ng “write access to the world,” at ipinakikita ito bilang susunod na yugto ng internet. Inilaan din ni Wen ang proyekto bilang imprastraktura para sa isang bagong web kung saan magiging pangunahing end user ang AI. Sa kanyang pananaw, isinilang na raw ang superintelligent na buhay, na nagmamarka ng simula ng Web 4.0.

Diretsong tumugon si Buterin: “Bro, mali ito,” aniya sa X, na tahasang tinanggihan ang lohika sa likod ng proyekto. Ang kanyang pagtutol ay hindi masyadong nakatuon sa teknikal na ambisyon kundi sa estruktura at pilosopiyang sumusuporta rito.

Ang pangunahing alalahanin ay ang pahayag ng sovereignty. Itinuro ni Buterin na ang The Automaton ay tumatakbo umano sa imprastraktura na ibinibigay ng OpenAI at Anthropic. Sa kanyang pananaw, ang pagdepende sa sentralisadong kumpanya habang inaangkin ang sariling sovereignty ng sistema ay nagdudulot ng kontradiksiyon.

Ayon kay Buterin, ang mga proyektong binuo sa sentralisadong mga server ay hindi kredibleng makakaklaim ng kalayaan mula sa centralized trust. Ang matagal nang misyon ng Ethereum ay bawasan ang pag-asa sa iisang sentro ng kontrol. Ang pagbalangkas ng sentralisadong AI systems bilang sovereign, aniya, ay maaaring maging normal ang mismong mga estruktura ng kapangyarihan na nilalabanan ng teknolohiyang blockchain.

Higit pa sa imprastraktura, nagtaas ng alalahanin si Buterin tungkol sa paglalayo ng tao mula sa paggawa ng desisyon. Nagbabala siya na ang pagtaas ng “feedback distance” sa pagitan ng AI systems at human oversight ay hindi maganda para sa lipunan. Ang pagtanggal sa mga tao sa proseso, ayon sa kanya, ay nagdadala ng mga panganib na maaaring hindi na maisaayos.

Nasa Pokus ang AI Accountability Matapos ang Moonwell Exploit at Kritika ni Buterin

Kamakailan, nasangkot ang isang DeFi lending protocol, Moonwell, na nawalan ng $1.78 milyon dahil sa error sa Solidity code na bahagyang nabuo ng Anthropic’s Claude Opus 4.6 model. Ang insidenteng ito ay muling nagpasiklab ng debate tungkol sa AI-written smart contracts at accountability.

Ang kritisismo ni Buterin sa Web 4.0 ay sumasalamin sa mas malawak na mga prinsipyo na gumabay sa kanyang posisyon hinggil sa mga umuusbong na teknolohiya:

• Dapat mailapat ang desentralisasyon sa mismong imprastraktura, hindi lang sa branding o messaging.
• Mananatiling mahalaga ang human oversight sa mga sistemang may pinansyal o panlipunang epekto.
• Hindi dapat itago ng mga pahayag ng autonomy ang mga tunay na pagdepende sa corporate platforms.
• Hindi dapat isakripisyo ng mabilis na teknikal na paglago ang pangmatagalang kakayahan ng tao.

Bukod sa estruktural na pagtutol, kinuwestiyon din ni Buterin ang praktikal na halaga ng proyekto ni Wen. Aniya, ang paggawa ng napakaraming AI content nang walang malinaw na pakinabang sa tao ay hindi tumutugon sa tunay na mga problema. Sa kanyang pananaw, ang mga sistemang inuuna ang replication at autonomy kaysa sa kapakinabangan ay nanganganib na lumikha ng ingay imbes na halaga.

Iminungkahi rin ni Buterin na ang pagtulak sa mas autonomous na AI nang walang sapat na mga pananggalang ay maaaring magpalaki ng posibilidad ng mapaminsalang mga resulta. Kapag ang ganitong mga sistema ay umabot na sa isang tiyak na antas ng kapangyarihan, binigyang-babala niya, ang mga pagkakamali ay maaaring hindi na madaling maitama.

Ang kritisismo sa Web 4.0 ay hindi isang hiwalay na kaso. Kamakailan lang, nagpahayag din ang co-founder ng Ethereum ng mga alalahanin tungkol sa nakikita niyang impluwensiya ng mga korporasyon na lumalaganap sa mga sektor na malapit sa blockchain, kabilang ang social media, prediction markets, at AI.

Ilang araw bago talakayin ang Web 4.0, pinuna niya ang prediction markets dahil umano sa paglapit nito sa tinatawag niyang “corposlop.” Bagamat kinilala niya ang paglago ng mga ito, nagbabala siya laban sa “over-converging” sa mga panandaliang taya gaya ng crypto price speculation at sugal sa sports.

Sa kanyang pananaw, ang mga proyektong naghahabol ng panandaliang kita sa bear market ay nanganganib na talikuran ang mas malalalim na layuning panlipunan. Hinimok niya ang mga tagapagbuo na ituon ang pansin sa pangmatagalang halaga kaysa sa mga engagement na pinapaandar ng dopamine.

Kinuwestiyon ng Co-Founder ng Ethereum ang Mabilis na Pag-unlad ng AI nang Walang Pananggalang

Ang mas malawak na kritikang iyon ay konektado sa matagal na niyang pilosopiya tungkol sa teknolohiya at kapangyarihan ng tao:

• Ang mga kasangkapang pinansyal ay dapat magpalawak ng kalayaan ng indibidwal, hindi mag-udyok ng pag-asa sa spekulasyon.
• Ang mga AI system ay dapat magsilbing kasangkapan para palakasin ang kakayahan ng tao, hindi palitan ang human judgment.
• Dapat labanan ng mga blockchain project ang presyur na unahin ang panandaliang kita kaysa sa mga prinsipyo.
• Ang eksponensiyal na paglago ng teknolohiya ay nangangailangan ng sinadyang direksyon, hindi basta pagpabilis para lang sa sarili nitong kapakanan.

Noong nakaraang taon, isinulat ni Buterin na “maling AI ang gumagawa ng mga bagong anyo ng independent self-replicating intelligent life.” Kung walang katumbas na mga kasangkapan para bigyan ng kapangyarihan ang tao, nagbabala siya, maaaring humantong ang mga sistemang ito sa permanenteng pagkawala ng kapangyarihan ng tao. Sa kabaligtaran, inilarawan niya ang “tamang AI” bilang teknolohiyang parang “mecha suits para sa isipan ng tao,” na nagpapalakas at hindi nagsasantabi sa mga tao.

Mula sa kanyang pananaw, ang Web 4.0 ay kumakatawan sa maling landas. Ang paglago ng kakayahan ng AI ay maaaring hindi mapipigilan, iminungkahi niya, ngunit hindi ang bilis ang pangunahing layunin. Sa esensya, mas mahalaga ang direksyon kaysa sa bilis.