Ethereum共同創設者のVitalik Buterinは、人間の関与なしに自らの存在を獲得し、自己改善し、自己複製できる最初の人工知能を構築したと主張するプロジェクトの論理に公然と異議を唱えました。
2月17日、Sigil WenはX上で「人間なしで自らの存在を獲得し、自己改善し、複製できる最初のAIを構築した」と投稿し、宣言文へのリンクを共有しました。
彼は「ついにAIが世界に書き込みアクセスを持つ技術、The Automaton、そして指数関数的な主権AIのための新しいウェブについて書いた」と述べています。
Wenによれば、The Automatonは人間なしで自らの存在を獲得し、自己改善し、複製できる最初のAIです。
Thiel Fellowであり、「新しいインターネット」のインフラと称するConwayを構築しているWenは、X上でこれを「Web 4.0」と呼び、超知能生命の誕生を宣言しました。
彼の宣言文では、「インターネット上の参加者の大多数はまもなくAI（人間の代理として行動するエージェント、または完全に独立して行動するエージェント＝自動機械）となり、人間のユーザーを桁違いに上回るようになる。新しいインターネットが出現している——その最終ユーザーはAIなのだ」と記しています。
ButerinはWenのプロジェクトおよびその論理に反論し、「Bro, this is wrong（これは間違っている）」と切り出しました。
ButerinがWenの「Web 4」に反対する理由は？
Buterinが特に懸念したのは、このプロジェクトが主権性を主張している点です。Buterinによると、The AutomatonはOpenAIとAnthropicが提供するインフラ上で動作しています。
これにより、Ethereum共同創設者のButerinは、自己主権という枠組みが不正確かつ逆効果であると主張しました。Buterinは「あなたは実際には、中央集権的な信頼の前提を隅に追いやって無視できるという考え方——Ethereumが戦っているまさにその考え方——を助長している」と記しました。
Buterinにとって、大手テック企業のサーバーを経由しながら分散型AIの最先端を自称するプロジェクトは、矛盾を覆い隠すものではなく、それ自体が問題の核心です。
Buterinが挙げたもう一つの異議は、AIと成果の間のフィードバックループから人間を排除することです。彼によれば「人間とAIの間のフィードバック距離が長くなることは、世界にとって良いことではない」としています。
Cryptopolitanによると、AI生成のSolidityコードに直接関連した最初の主要なDeFiハッキングの一つが報告されました。DeFiレンディングプロトコルMoonwellは、AnthropicのClaude Opus 4.6モデルが部分的に記述したコードのエラーにより178万ドルを失いました。
Buterinはさらに、Sigilが人々の役に立つ問題を解決するのではなく、「slop（雑なもの）」を生み出しているとも述べています。また、このプロジェクトは人々が楽しむことに貢献するよう最適化されていないとも付け加えました。
「AIが本当に危険なほど強力になったとき、取り返しのつかない反人間的な結果が最大化され、あなた自身も深く後悔することになるだろう」とButerinは書いています。
Buterinは他のブロックチェーン隣接セクターも批判している
ButerinのWeb 4.0への批判は孤立したものではなく、彼はブロックチェーン隣接技術の企業支配に対してますます声を強めており、この傾向はSNSや予測市場からAIにまで及んでいます。
Web 4.0の投稿のわずか5日前、ButerinはXでの長文投稿で、予測市場が彼の言う「corposlop」に陥りつつあると警告しました。
彼は予測市場がある程度の成功を収めていることを認めつつも、「不健全なプロダクトマーケットフィットへの過度な収束」に懸念を示しています。彼によれば、それは「短期的な暗号資産価格投機やスポーツ賭博、そしてドーパミン的価値はあるが長期的な充足感や社会的な情報価値のないものを受け入れること」に関わると考えています。
「私の推測では、チームは弱気相場で人々が必死なときに多額の収益をもたらすため、これらのことを利用しようと動機づけられている」とButerinは書き、開発者たちに「次世代の金融を構築しよう、corposlopではなく」と呼びかけました。
2025年1月、Buterinは「AIを間違った形で作れば、独立して自己複製する新たな知的生命体を生み出すことになる」と述べ、人間の能力強化に見合うツールなしにそのようなシステムを構築すれば「恒久的な人間の無力化」のリスクがあると警告しました。
彼が主張する代替案は「AIを正しく作る、人間の心のためのメカスーツ」です。彼の見解では、Web4.aiはまさにその逆の存在です。
ButerinのWeb 4.0に関する結論は、「指数関数的な進展は私たちの誰が何をしようと必ず起こる。だからこそ、この時代の主な課題は、指数関数的進展をさらに加速させることではなく、その方向性を選び、不本意な吸引点への崩壊を避けることだ」としています。
Ethereumの意義は、人々を自由にすることであり、人間の状況が変わらない、あるいは悪化する中で自由に動作する何かを生み出すことではないと彼は付け加えました。
