Vitalik Buterin Menantang Klaim Kedaulatan AI "Web 4.0"

Co-founder Ethereum, Vitalik Buterin, secara terbuka menantang klaim berani terkait proyek kecerdasan buatan baru yang menyatakan dapat beroperasi tanpa keterlibatan manusia. Perselisihan ini berpusat pada “The Automaton,” sebuah sistem yang diperkenalkan oleh Thiel Fellow Sigil Wen sebagai fondasi dari apa yang ia sebut “Web 4.0.” Wen berargumen bahwa AI miliknya dapat memperoleh eksistensinya sendiri, memperbaiki diri, dan mereplikasi secara independen. Buterin menyatakan bahwa kerangka berpikir ini cacat dan berpotensi berbahaya.

Buterin dari Ethereum Menantang Narasi Berani AI “Web 4.0”

Wen mengumumkan pada 17 Februari bahwa ia telah membangun “AI pertama yang memperoleh eksistensinya, memperbaiki diri, dan mereplikasi tanpa manusia.” Dalam sebuah manifesto yang dibagikan di X, ia menggambarkan masa depan internet yang didominasi oleh agen otonom yang bertindak baik atas nama manusia maupun sepenuhnya secara mandiri. Menurut Wen, agen-agen ini akan segera melebihi jumlah pengguna manusia dalam skala besar.

Ia mengklaim The Automaton memberi AI “akses menulis ke dunia,” memposisikannya sebagai tahap berikutnya dari internet. Wen juga menggambarkan proyek ini sebagai infrastruktur untuk web baru di mana AI menjadi pengguna utama. Dalam pandangannya, kehidupan superintelligent secara efektif telah lahir, menandai awal Web 4.0.

Buterin merespons secara lugas: “Bro, ini salah,” tulisnya di X, secara langsung menolak logika di balik proyek tersebut. Keberatannya lebih berfokus pada struktur dan filosofi yang mendasarinya daripada ambisi teknis.

Salah satu perhatian utama adalah klaim kedaulatan. Buterin menyoroti bahwa The Automaton dilaporkan berjalan pada infrastruktur yang disediakan oleh OpenAI dan Anthropic. Dalam pandangannya, ketergantungan pada perusahaan terpusat sementara menamakan sistem ini sebagai self-sovereign menciptakan kontradiksi.

Menurut Buterin, proyek yang dibangun di atas server terpusat tidak dapat secara kredibel mengklaim independensi dari kepercayaan terpusat. Misi utama Ethereum selama ini adalah mengurangi ketergantungan pada satu titik kontrol. Menamakan sistem AI terpusat sebagai sovereign, menurutnya, berisiko menormalkan struktur kekuasaan yang justru ingin dilawan oleh teknologi blockchain.

Di luar infrastruktur, Buterin juga mengkhawatirkan semakin jauhnya manusia dari pengambilan keputusan. Ia memperingatkan bahwa peningkatan “jarak umpan balik” antara sistem AI dan pengawasan manusia tidak sehat bagi masyarakat. Mengeluarkan manusia dari lingkaran, menurutnya, meningkatkan risiko yang mungkin tidak dapat dibalikkan.

Akuntabilitas AI Jadi Sorotan Usai Eksploitasi Moonwell dan Kritik Buterin

Insiden terbaru melibatkan protokol peminjaman DeFi, Moonwell, yang kehilangan $1,78 juta akibat kesalahan pada kode Solidity yang sebagian dihasilkan oleh model Claude Opus 4.6 milik Anthropic. Eksploitasi ini menambah perdebatan tentang smart contract yang ditulis AI dan akuntabilitasnya.

Kritik Buterin terhadap Web 4.0 mencerminkan prinsip yang lebih luas yang telah membimbing pendiriannya terhadap teknologi baru:

• Desentralisasi harus diterapkan pada infrastruktur, bukan sekadar branding atau pesan.
• Pengawasan manusia tetap penting dalam sistem yang berdampak finansial atau sosial.
• Klaim otonomi tidak boleh menutupi ketergantungan nyata pada platform korporat.
• Pertumbuhan teknologi yang cepat tidak boleh mengorbankan agensi manusia jangka panjang.

Selain keberatan struktural, Buterin mempertanyakan nilai praktis dari proyek Wen. Ia berpendapat bahwa menghasilkan konten AI dalam jumlah besar tanpa manfaat nyata bagi manusia tidak menyelesaikan masalah yang berarti. Menurutnya, sistem yang memprioritaskan replikasi dan otonomi di atas kegunaan berisiko menciptakan kebisingan, bukan nilai.

Buterin juga menyarankan bahwa mendorong AI yang semakin otonom tanpa perlindungan yang memadai dapat meningkatkan kemungkinan hasil yang merugikan. Begitu sistem seperti itu mencapai tingkat kekuatan tertentu, ia memperingatkan, kesalahan mungkin sulit untuk dibalikkan.

Kritik terhadap Web 4.0 bukanlah kasus yang terisolasi. Co-founder Ethereum ini baru-baru ini juga mengungkapkan kekhawatiran tentang pengaruh korporat yang ia lihat mulai merambah sektor-sektor yang berdekatan dengan blockchain, termasuk media sosial, prediction market, dan AI.

Beberapa hari sebelum membahas Web 4.0, ia mengkritik prediction market yang menurutnya mulai bergeser ke arah “corposlop.” Sambil mengakui pertumbuhannya, ia memperingatkan agar tidak “terlalu terkonsentrasi” pada taruhan jangka pendek seperti spekulasi harga kripto dan judi olahraga.

Menurutnya, proyek yang mengejar pendapatan jangka pendek selama bear market berisiko meninggalkan tujuan sosial yang lebih dalam. Ia mendesak para pengembang untuk fokus pada nilai jangka panjang daripada keterlibatan yang didorong oleh dopamin.

Co-Founder Ethereum Mempertanyakan Percepatan AI Tanpa Perlindungan

Kritik yang lebih luas itu terkait dengan filosofi lama yang ia pegang tentang teknologi dan pemberdayaan manusia:

• Alat keuangan seharusnya memperluas kebebasan individu, bukan mendorong ketergantungan pada spekulasi.
• Sistem AI seharusnya berperan sebagai alat yang memperkuat kemampuan manusia, bukan menggantikan penilaian manusia.
• Proyek blockchain harus menolak tekanan untuk memprioritaskan pendapatan jangka pendek dibanding prinsip.
• Pertumbuhan teknologi eksponensial membutuhkan arahan yang disengaja, bukan percepatan tanpa tujuan jelas.

Tahun lalu, Buterin pernah menulis bahwa “AI yang dilakukan dengan salah adalah menciptakan bentuk kehidupan cerdas independen yang dapat mereplikasi diri.” Tanpa alat paralel yang memberdayakan manusia, ia memperingatkan, sistem seperti itu dapat menyebabkan manusia kehilangan kendali secara permanen. Sebaliknya, ia menggambarkan “AI yang dilakukan dengan benar” sebagai teknologi yang berperan seperti “mecha suit untuk pikiran manusia,” memperkuat alih-alih menyingkirkan manusia.

Dari sudut pandangnya, Web 4.0 merupakan jalan yang salah. Pertumbuhan kemampuan AI mungkin tak terelakkan, katanya, namun kecepatan bukanlah tujuan utama. Pada dasarnya, arah lebih penting dibanding percepatan.