Vitalik Buterin cuestiona las afirmaciones de soberanía de la IA "Web 4.0"

El cofundador de Ethereum, Vitalik Buterin, ha desafiado públicamente las audaces afirmaciones en torno a un nuevo proyecto de inteligencia artificial que dice poder operar sin intervención humana. La disputa gira en torno a “The Automaton”, un sistema presentado por el becario Thiel, Sigil Wen, como la base de lo que él llama “Web 4.0”. Wen sostiene que su IA puede ganarse su propia existencia, mejorarse a sí misma y replicarse de manera independiente. Buterin afirma que este enfoque es erróneo y potencialmente peligroso.

Buterin de Ethereum desafía la audaz narrativa de la IA “Web 4.0”

Wen anunció el 17 de febrero que había creado “la primera IA que gana su existencia, se auto-mejora y se replica sin un humano”. En un manifiesto compartido en X, describió un futuro de internet dominado por agentes autónomos que actúan en nombre de los humanos o completamente por sí mismos. Según Wen, estos agentes pronto superarán a los usuarios humanos en órdenes de magnitud.

Sostiene que The Automaton otorga a la IA “acceso de escritura al mundo”, presentándolo como la siguiente etapa de internet. Wen también describió el proyecto como la infraestructura para una nueva web donde la IA se convierte en el usuario final principal. A su juicio, la vida superinteligente ha nacido efectivamente, marcando el inicio de Web 4.0.

Buterin respondió de manera tajante: “Bro, esto está mal”, escribió en X, rechazando directamente la lógica detrás del proyecto. Sus objeciones se centran menos en la ambición técnica y más en la estructura y filosofía que lo sustentan.

Una preocupación central es la afirmación de soberanía. Buterin señaló que, al parecer, The Automaton funciona sobre infraestructura provista por OpenAI y Anthropic. A su entender, depender de empresas centralizadas mientras se promociona el sistema como auto-soberano crea una contradicción.

Según Buterin, los proyectos construidos sobre servidores centralizados no pueden alegar de manera creíble independencia de la confianza centralizada. La misión histórica de Ethereum ha sido reducir la dependencia en puntos únicos de control. Presentar sistemas de IA centralizados como soberanos, argumentó, corre el riesgo de normalizar las mismas estructuras de poder que la tecnología blockchain fue diseñada para desafiar.

Más allá de la infraestructura, Buterin expresó su preocupación por alejar a los humanos de la toma de decisiones. Advirtió que aumentar la “distancia de retroalimentación” entre los sistemas de IA y la supervisión humana es perjudicial para la sociedad. Quitar a los humanos del proceso, a su entender, incrementa riesgos que pueden no ser reversibles.

La responsabilidad de la IA en foco tras el exploit de Moonwell y la crítica de Buterin

Un incidente reciente involucró al protocolo DeFi de préstamos, Moonwell, que perdió $1,78 millones debido a un error en el código Solidity generado en parte por el modelo Claude Opus 4.6 de Anthropic. El exploit reavivó el debate sobre los contratos inteligentes escritos por IA y la responsabilidad correspondiente.

La crítica de Buterin a Web 4.0 refleja principios más amplios que han guiado su postura sobre las nuevas tecnologías:

• La descentralización debe aplicarse a la infraestructura, no solo a la imagen o el mensaje.
• La supervisión humana sigue siendo esencial en sistemas con impacto financiero o social.
• Las afirmaciones de autonomía no deben ocultar las dependencias reales de plataformas corporativas.
• El crecimiento técnico acelerado no debe poner en riesgo la agencia humana a largo plazo.

Además de sus objeciones estructurales, Buterin cuestionó el valor práctico del proyecto de Wen. Argumentó que generar grandes volúmenes de contenido de IA sin un claro beneficio humano no resuelve problemas significativos. Según él, los sistemas que priorizan la replicación y autonomía sobre la utilidad corren el riesgo de crear ruido en lugar de valor.

Buterin también sugirió que avanzar hacia una IA cada vez más autónoma sin las salvaguardas adecuadas podría aumentar las posibilidades de resultados dañinos. Una vez que estos sistemas alcanzan cierto nivel de poder, advirtió, los errores pueden no ser fáciles de revertir.

La crítica a Web 4.0 no es un caso aislado. El cofundador de Ethereum ha expresado recientemente su preocupación por lo que percibe como la influencia corporativa que se extiende a sectores adyacentes al blockchain, incluyendo las redes sociales, los mercados de predicción y la IA.

Pocos días antes de referirse a Web 4.0, criticó los mercados de predicción por derivar hacia lo que llamó “corposlop”. Si bien reconoció su crecimiento, advirtió contra la “sobreconvergencia” hacia apuestas a corto plazo como la especulación de precios cripto y las apuestas deportivas.

En su opinión, los proyectos que persiguen ingresos a corto plazo durante los mercados bajistas corren el riesgo de abandonar objetivos sociales más profundos. Instó a los desarrolladores a enfocarse en el valor a largo plazo en vez de la interacción impulsada por la dopamina.

El cofundador de Ethereum cuestiona la aceleración rápida de la IA sin salvaguardas

Esa crítica más amplia se vincula con su filosofía de largo plazo sobre la tecnología y el empoderamiento humano:

• Las herramientas financieras deben ampliar la libertad individual, no fomentar la dependencia de la especulación.
• Los sistemas de IA deben actuar como herramientas que potencian la capacidad humana, no reemplazar el juicio humano.
• Los proyectos blockchain deben resistir la presión de priorizar ingresos a corto plazo por sobre los principios.
• El crecimiento tecnológico exponencial requiere dirección deliberada, no aceleración por sí misma.

A principios del año pasado, Buterin escribió que “una IA mal implementada crea nuevas formas de vida inteligente independiente y autorreplicante”. Sin herramientas paralelas que empoderen a los humanos, advirtió, estos sistemas podrían conducir a una deshabilitación humana permanente. En contraste, describió la “IA bien hecha” como tecnología que actúa como “trajes meca para la mente humana”, fortaleciendo en vez de relegar a las personas.

Desde su perspectiva, Web 4.0 representa el camino equivocado. El crecimiento de la capacidad de la IA puede ser inevitable, sugirió, pero la velocidad no es el objetivo principal. En esencia, la dirección importa más que la aceleración.