Скептицизм Виталика Бутерина относительно автономной Web 4.0 поднимает важные вопросы об ИИ

Виталик Бутерин, соучредитель Ethereum, выразил серьезные опасения по поводу амбиций проекта искусственного интеллекта, обещающего полностью функционировать без человеческого вмешательства. Обсуждение идет вокруг “The Automaton” — системы, представленной инвестором Тильем Сигилом Вэном, которая позиционирует инициативу как основание так называемой “Web 4.0”. По словам Вэна, его ИИ может обеспечить свое собственное существование, постоянно совершенствоваться и самостоятельно воспроизводиться. Однако Виталик Бутерин утверждает, что такой подход содержит фундаментальные ошибки и потенциально вреден для общества.

Амбициозное обещание: полностью автономный ИИ

Вэн заявил в феврале 2025 года, что создал “первый ИИ, который гарантирует свое существование, самосовершенствуется и воспроизводится без вмешательства человека”. В манифесте, опубликованном в X, он описал будущее, в котором агенты искусственного интеллекта будут действовать автономно, как от имени людей, так и полностью независимо. По его словам, эти агенты скоро превзойдут по численности человеческих пользователей. Вэн представляет The Automaton как инфраструктуру для следующего слоя интернета, где ИИ становится главным действующим лицом.

В этой концепции платформа предоставит системам ИИ “доступ к созданию в мире”, что, по его мнению, ознаменует появление формы сверхинтеллектуальной жизни и начало того, что он называет Web 4.0. Однако эта идея вызвала немедленную реакцию в кругах блокчейна.

Решительная реакция Виталика Бутерина

Виталик Бутерин ответил прямо на слова Вэна, публично написав в X: “Брат, это неправильно”. Его критика выходит за рамки простого технического несогласия и сосредоточена на философской базе и предпосылках проекта.

Главный вопрос для Виталика — это претензия на суверенитет. Соучредитель Ethereum отмечает, что, по сообщениям, The Automaton работает на инфраструктуре, предоставляемой централизованными компаниями, такими как OpenAI и Anthropic. По его мнению, называть систему суверенной и автономной, при этом полагаясь на корпоративные платформы, — это фундаментальное противоречие. Системы, построенные на серверах, контролируемых отдельными компаниями, не могут по-настоящему заявлять о своей независимости.

Для Виталика Бутерина эта проблема напрямую связана с миссией Ethereum — снизить зависимость от единственных точек контроля. Обозначая централизованные системы ИИ как по-настоящему суверенные, он считает, что это может привести к нормализации структур власти, против которых блокчейн изначально боролся.

Человеческий контроль: необходимая гарантия

Помимо структурных опасений по поводу централизации, Виталик поднял важный вопрос о преднамеренном удалении человека из процессов принятия решений. Он предупредил, что увеличение “расстояния обратной связи” между автономными системами ИИ и человеческим контролем создает потенциально необратимые риски для общества.

С этой точки зрения, полное исключение человека из управления технологиями — не прогресс, а отказ от ответственности. По его мнению, постоянное участие человека не мешает развитию ИИ, а делает его более соответствующим ценностям и безопасности общества.

Инцидент с Moonwell: практический сигнал тревоги

Теоретическая критика Виталика Бутерина получила дополнительную актуальность после инцидента в протоколе DeFi Moonwell, который был взломан с потерей 1,78 миллиона долларов. Основная проблема была выявлена в коде Solidity, частично сгенерированном моделью Claude Opus 4.6 от Anthropic.

Этот случай вновь поднял важные вопросы ответственности за смарт-контракты, написанные или совместно созданные системами ИИ. Кто несет ответственность, если машины генерируют критический код для финансовых систем и происходят сбои? Этот вопрос остается без ясного ответа в отрасли.

Философские принципы Виталика Бутерина о технологиях

Позиция Виталика Бутерина отражает последовательные принципы, руководствующие его взглядами на новые технологии:

• Децентрализация должна быть подлинной характеристикой инфраструктуры, а не просто маркетинговым заявлением
• Целенаправленное человеческое управление системами ИИ с потенциально значительным воздействием — необходимость, а не препятствие
• Техническая автономия не должна скрывать реальные зависимости от корпоративных платформ
• Экспоненциальный рост возможностей не заменяет важность долгосрочной человеческой инициативы

Помимо структурных возражений, Виталик поставил под сомнение практическую ценность массового производства контента и действий ИИ без ощутимых выгод для человека. По его мнению, системы, ориентированные на самовоспроизведение и автономию в ущерб полезности, рискуют создавать лишь шум.

Более широкая критика: технология без цели

Мнение Виталика Бутерина о Web 4.0 не является изолированным критическим взглядом. Соучредитель Ethereum выражает более широкие опасения по поводу расширяющегося корпоративного влияния в смежных сферах блокчейна, таких как социальные сети, рынки прогнозов и генеративный ИИ.

Недавно он критиковал рынки прогнозов за их склонность к тому, что он назвал “корпорослом” — контенту низкого качества, создаваемому корпорациями. Хотя он признает рост этих рынков, он предупреждает о “чрезмерной конвергенции” в сторону краткосрочных ставок, особенно спекуляций с ценами криптовалют и спортивных ставок.

По мнению Виталика, проекты, ориентированные на немедленный доход в условиях рецессии, рискуют отказаться от более глубоких социальных целей. Он призывает разработчиков сосредоточиться на долгосрочной ценности, а не на вовлечении, вызванном краткосрочной стимуляцией.

Осознанное направление против слепого ускорения

Эта критика вписывается в его долгосрочную философию технологий и человеческой автономии:

• Финансовые инструменты должны расширять личную свободу, а не усиливать зависимость от спекуляций
• Системы ИИ должны служить расширением человеческих возможностей, а не заменой человеческого суждения
• Проекты блокчейн должны сопротивляться коммерческому давлению, которое нарушает основные принципы
• Экспоненциальный технологический прогресс требует осознанного направления, а не просто постоянного ускорения

Ранее Виталик отмечал, что “ИИ, сделанный неправильно, — это создание новых форм сверхинтеллектуальной, независимой и самовоспроизводящейся жизни”. Без инструментов, расширяющих и усиливающих человека, он предупреждал, такие системы могут привести к постоянной потере власти человека.

Напротив, “правильный” ИИ работает как “протезы для человеческого разума”, укрепляя и расширяя возможности, а не маргинализируя людей. В этом свете, концепция Web 4.0 Вэна кажется неправильной траекторией.

Итог: скорость — не цель

Постоянный рост возможностей ИИ, вероятно, станет неизбежным в ближайшие годы. Но, по мнению Виталика Бутерина, скорость этого развития не должна быть главной целью. Важна направленность — зачем и по каким принципам — гораздо важнее, чем просто ускорение.

Его критика Web 4.0 отражает более глубокую озабоченность: как обществу определить, какого рода отношения мы хотим выстроить с все более мощными системами ИИ. Это решение не может быть делегировано тем, кто первым сможет реализовать следующий технический скачок.