Vitalik Buterin、AI「Web 4.0」の主権主張に異議

Ethereum共同創設者のVitalik Buterinは、人間の関与なしに動作できると主張する新しい人工知能プロジェクトに関する大胆な主張に公然と異議を唱えました。論争の中心は、「The Automaton」と呼ばれるシステムで、Thiel FellowのSigil Wenが「Web 4.0」の基盤として導入したものです。Wenは、このAIが自らの存在を獲得し、自己改善し、独立して複製できると主張しています。しかし、Buterinはこの枠組みが誤っており、潜在的に危険だと指摘しています。

EthereumのButerinが大胆な「Web 4.0」AIナラティブに異議

Wenは2月17日、「人間なしで自らの存在を獲得し、自己改善し、自己複製する最初のAIを構築した」と発表しました。Xで共有されたマニフェストで、彼は将来のインターネットは人間のため、または完全に独立して行動する自律エージェントによって支配されると描写しました。Wenによれば、これらのエージェントは間もなく人間ユーザーの数を桁違いに上回るとしています。

彼はThe AutomatonがAIに「世界への書き込みアクセス」を与えると主張し、それをインターネットの次の段階として提示しています。Wenはまた、このプロジェクトをAIが主要なエンドユーザーとなる新たなウェブのインフラと説明しました。彼の見解では、超知能生命が事実上誕生し、Web 4.0の始まりを意味するとしています。

Buterinは率直に反応しました。「兄弟、それは違う」と彼はXで書き、プロジェクトの論理を直接否定しました。彼の異議は技術的な野心よりも、その構造や根底にある哲学に焦点を当てています。

主な懸念点は主権の主張です。Buterinは、The AutomatonがOpenAIやAnthropicが提供するインフラ上で稼働していると指摘しました。彼の見解では、中央集権企業に依存しながらシステムを自己主権的と位置づけるのは矛盾を生じさせるとしています。

Buterinによれば、中央集権サーバー上に構築されたプロジェクトは、中央集権的な信頼から独立していると信憑性を持って主張することはできません。Ethereumの長年の使命は、単一のコントロールポイントへの依存を減らすことでした。中央集権AIシステムを主権的と位置づけることは、ブロックチェーン技術が挑戦しようと設計された権力構造を正当化するリスクがあると彼は主張しています。

インフラ面にとどまらず、Buterinは人間が意思決定から遠ざかることにも懸念を示しました。AIシステムと人間による監督との「フィードバック距離」を拡大することは、社会にとって健全でないと警告しています。彼の見解では、人間をループから排除することは、取り返しのつかないリスクを増やすと述べています。

MoonwellエクスプロイトとButerinの批判後に注目されるAIの説明責任

最近の事例では、DeFiレンディングプロトコルのMoonwellが、AnthropicのClaude Opus 4.6モデルによって部分的に生成されたSolidityコードのエラーにより178万ドルを失いました。このエクスプロイトは、AI生成スマートコントラクトとその説明責任に関する議論を再燃させました。

ButerinによるWeb 4.0への批判は、彼の新興技術への姿勢を導いてきたより広範な原則を反映しています：

• 分散化はインフラだけでなく、ブランドやメッセージにも適用されるべきである。
• 金融的または社会的影響を持つシステムでは、人間による監督が不可欠である。
• 自律性の主張が、企業プラットフォームへの現実の依存関係を覆い隠してはならない。
• 技術の急速な成長は、長期的な人間の主体性を犠牲にすべきではない。

構造的な異議に加え、ButerinはWenのプロジェクトの実用的価値についても疑問を呈しました。彼は、人間に明確な利益をもたらさない大量のAIコンテンツ生成は、本質的な問題の解決にはならないと主張しています。自己複製や自律性を有用性より優先するシステムは、価値ではなくノイズを生むリスクがあると述べています。

Buterinはまた、十分な安全策なしにますます自律的なAIを推進することは、有害な結果を増幅させる可能性があると示唆しました。そのようなシステムが一定の力を持つに至った場合、ミスを修正するのは簡単ではないと警告しています。

Web 4.0への批判は孤立したケースではありません。Ethereumの共同創設者は最近、ソーシャルメディア、予測市場、AIなどブロックチェーン関連分野に広がる企業の影響についても懸念を表明しています。

Web 4.0について言及する数日前、彼は予測市場が「コーポスロップ」に向かっていると批判しました。その成長を認めつつも、暗号資産価格の投機やスポーツギャンブルなどの短期的な賭けに「過度に収束」することに警鐘を鳴らしています。

彼の見解では、ベアマーケット中の短期収益を追求するプロジェクトは、より深い社会的目標を放棄するリスクがあります。彼は開発者に対し、ドーパミン駆動型の関与ではなく、長期的な価値創出に焦点を当てるよう促しました。

Ethereum共同創設者が安全策なしの急速なAI加速に疑問

こうした広範な批判は、テクノロジーと人間のエンパワーメントに関する彼の長年の哲学と結びついています：

• 金融ツールは個人の自由を拡大すべきであり、投機への依存を助長してはならない。
• AIシステムは人間の能力を拡張するツールとして機能すべきであり、人間の判断を置き換えるべきではない。
• ブロックチェーンプロジェクトは、短期収益を原則より優先する圧力に抵抗すべきである。
• 指数関数的な技術成長には、意図的な方向性が必要であり、それ自体のための加速ではならない。

昨年初め、Buterinは「間違ったAIは、独立した自己複製型知的生命の新しい形態を生み出している」と書きました。人間をエンパワーする並行的なツールがなければ、そのようなシステムは人間の恒久的な無力化につながる可能性があると警告しました。それに対し、彼は「正しいAI」を「人間の心のためのメカスーツ」と表現し、人々を脇に追いやるのではなく強化する技術であると述べています。

彼の視点からすると、Web 4.0は誤った道を示しています。AIの能力の成長は不可避かもしれませんが、速度が最重要目標ではないと示唆しています。要するに、加速よりも方向性が重要なのです。