维塔利克·布特林，以太坊的联合创始人，提出了对一个承诺完全无需人为干预运行的人工智能项目的重大担忧。讨论围绕“自动机”系统展开，该系统由投资人席尔·维恩（Thiel Sigil Wen）提出，将该倡议定位为所谓“Web 4.0”的基础。根据维恩的说法，他的人工智能可以确保自身存在，不断自我改进，并实现自主复制。然而，维塔利克·布特林认为，这种框架存在根本性缺陷，可能对社会造成潜在危害。## 雄心勃勃的承诺：完全自主的人工智能席尔·维恩于2025年2月声称自己开发出了“第一款确保自身存在、能自我提升并无需人为干预即可复制的人工智能”。在他在X（前推特）上发布的宣言中，他描述了一个未来，人工智能代理将自主行动，既代表人类，也完全独立。维恩表示，这些新兴的代理很快将远超人类用户的数量。他将“自动机”作为下一层互联网基础设施，人工智能成为主要行动者。在这种设想中，该平台将为人工智能系统提供“写入世界的权限”，标志着一种超智能生命形式的出现，以及他所称的Web 4.0的开启。然而，这一叙事立即在区块链圈引发反应。## 维塔利克·布特林的强烈回应维塔利克·布特林直接回应了维恩的观点，在X上公开写道：“兄弟，这错了。”他的批评不仅仅是技术上的不同意见，更集中在项目所依据的哲学结构和假设上。在他看来，核心问题在于主权的主张。以太坊的联合创始人指出，报道中提到的自动机系统依赖由OpenAI和Anthropic等中心化公司提供的基础设施。根据他的分析，将一个系统标榜为主权和自主，而又依赖集中式企业平台，是一种根本性的矛盾。建立在由特定公司控制的服务器上的系统，不能真正声称拥有独立性。对维塔利克·布特林而言，这一问题直接关系到以太坊的历史使命：减少对单点控制的依赖。他认为，将中心化的人工智能系统描述为真正的主权，可能会使人们习惯于区块链技术本意要质疑的权力结构。## 人类监督：必要的保障除了结构性担忧，维塔利克还提出了关于有意远离人类决策过程的关键问题。他警告说，增加自主人工智能系统与人类监督之间的“反馈距离”，可能带来对社会潜在的不可逆转的风险。在他看来，完全剥夺人类在技术治理中的作用，不是进步，而是责任的放弃。他强调，持续的人类参与不仅不会限制人工智能的发展，反而能使其更符合价值观和社会安全。## Moonwell事件：实际警示维塔利克的理论批评因在DeFi协议Moonwell发生的漏洞事件而变得更具现实意义。该事件导致价值178万美元的损失。根本原因被追溯到部分由Anthropic的Claude Opus 4.6模型生成的Solidity代码。此事件重新引发了关于由人工智能系统编写或共同生成的智能合约责任的讨论。当机器生成关键的金融系统代码时，谁应承担责任？这一问题在行业内尚无明确答案。## 维塔利克·布特林关于技术的哲学原则维塔利克的立场体现了他对新兴技术的原则性指导：- 去中心化应是真实的基础属性，而非仅仅是营销口号- 有意的人类干预对具有重大影响潜力的人工智能系统不是障碍，而是必要- 技术自主性不应掩盖对平台依赖的现实- 指数级增长的能力不能取代长期的人类自主性除了这些结构性反对，他还质疑大量生成内容和行动的人工智能系统的实际价值，尤其是在没有明显人类利益的情况下。根据他的分析，优先考虑自我复制和自主性而非实质性用途的系统，可能只会制造噪音。## 更广泛的批评：无目的的技术维塔利克对Web 4.0的评价并非孤立。他表达了对企业影响力扩展到区块链相关领域的更广泛担忧，包括社交网络、预测市场和生成式AI。在专门讨论Web 4.0之前，他批评预测市场趋向于所谓的“体块（corposlop）”——低质量的企业内容。虽然认可这些市场的增长，但他警告过度趋同于短期投机，特别是加密货币价格和体育博彩的投机。维塔利克认为，追求短期收益的项目在经济低迷期可能会偏离更深层次的社会目标。他鼓励开发者优先考虑长期价值，而非短期神经刺激驱动的参与。## 有意的方向与盲目加速这类批评与他长期关于技术和人类自主的哲学思想相呼应：- 金融工具应扩展个人自由，而非加剧投机依赖- 人工智能系统应作为人类能力的放大器，而非判断的替代- 区块链项目应抵抗牺牲基本原则的商业压力- 指数级的技术进步需要有意的引导，而非单纯的持续加速维塔利克曾指出：“错误的AI就是创造出新的超智能、独立自主且能自我复制的生命形式。”他警告，没有能赋能和增强人类的工具，这些系统可能导致人类的永久性无能为力。相反，“正确方式制造的AI”应像“人类思维的假肢”，增强和扩展能力，而非边缘化人类。在这种观点下，Wen设想的Web 4.0路径是错误的。## 结论：速度非唯一标准人工智能能力的持续增长在未来几年可能不可避免。但维塔利克·布特林认为，追求速度不应成为首要目标。方向——即“为了什么”和“依据哪些原则”——比单纯的加速更为重要。他对Web 4.0的质疑反映出更深层次的担忧：作为社会，我们需要有意识地决定与日益强大的AI系统的关系。这一决定不能交由那些只追求技术突破的人来做。
维塔利克·布特林对自主Web 4.0的怀疑提出了关于人工智能的关键问题
维塔利克·布特林，以太坊的联合创始人，提出了对一个承诺完全无需人为干预运行的人工智能项目的重大担忧。讨论围绕“自动机”系统展开，该系统由投资人席尔·维恩（Thiel Sigil Wen）提出，将该倡议定位为所谓“Web 4.0”的基础。根据维恩的说法，他的人工智能可以确保自身存在，不断自我改进，并实现自主复制。然而，维塔利克·布特林认为，这种框架存在根本性缺陷，可能对社会造成潜在危害。
雄心勃勃的承诺：完全自主的人工智能
席尔·维恩于2025年2月声称自己开发出了“第一款确保自身存在、能自我提升并无需人为干预即可复制的人工智能”。在他在X（前推特）上发布的宣言中，他描述了一个未来，人工智能代理将自主行动，既代表人类，也完全独立。维恩表示，这些新兴的代理很快将远超人类用户的数量。他将“自动机”作为下一层互联网基础设施，人工智能成为主要行动者。
在这种设想中，该平台将为人工智能系统提供“写入世界的权限”，标志着一种超智能生命形式的出现，以及他所称的Web 4.0的开启。然而，这一叙事立即在区块链圈引发反应。
维塔利克·布特林的强烈回应
维塔利克·布特林直接回应了维恩的观点，在X上公开写道：“兄弟，这错了。”他的批评不仅仅是技术上的不同意见，更集中在项目所依据的哲学结构和假设上。
在他看来，核心问题在于主权的主张。以太坊的联合创始人指出，报道中提到的自动机系统依赖由OpenAI和Anthropic等中心化公司提供的基础设施。根据他的分析，将一个系统标榜为主权和自主，而又依赖集中式企业平台，是一种根本性的矛盾。建立在由特定公司控制的服务器上的系统，不能真正声称拥有独立性。
对维塔利克·布特林而言，这一问题直接关系到以太坊的历史使命：减少对单点控制的依赖。他认为，将中心化的人工智能系统描述为真正的主权，可能会使人们习惯于区块链技术本意要质疑的权力结构。
人类监督：必要的保障
除了结构性担忧，维塔利克还提出了关于有意远离人类决策过程的关键问题。他警告说，增加自主人工智能系统与人类监督之间的“反馈距离”，可能带来对社会潜在的不可逆转的风险。
在他看来，完全剥夺人类在技术治理中的作用，不是进步，而是责任的放弃。他强调，持续的人类参与不仅不会限制人工智能的发展，反而能使其更符合价值观和社会安全。
Moonwell事件：实际警示
维塔利克的理论批评因在DeFi协议Moonwell发生的漏洞事件而变得更具现实意义。该事件导致价值178万美元的损失。根本原因被追溯到部分由Anthropic的Claude Opus 4.6模型生成的Solidity代码。
此事件重新引发了关于由人工智能系统编写或共同生成的智能合约责任的讨论。当机器生成关键的金融系统代码时，谁应承担责任？这一问题在行业内尚无明确答案。
维塔利克·布特林关于技术的哲学原则
维塔利克的立场体现了他对新兴技术的原则性指导：
除了这些结构性反对，他还质疑大量生成内容和行动的人工智能系统的实际价值，尤其是在没有明显人类利益的情况下。根据他的分析，优先考虑自我复制和自主性而非实质性用途的系统，可能只会制造噪音。
更广泛的批评：无目的的技术
维塔利克对Web 4.0的评价并非孤立。他表达了对企业影响力扩展到区块链相关领域的更广泛担忧，包括社交网络、预测市场和生成式AI。
在专门讨论Web 4.0之前，他批评预测市场趋向于所谓的“体块（corposlop）”——低质量的企业内容。虽然认可这些市场的增长，但他警告过度趋同于短期投机，特别是加密货币价格和体育博彩的投机。
维塔利克认为，追求短期收益的项目在经济低迷期可能会偏离更深层次的社会目标。他鼓励开发者优先考虑长期价值，而非短期神经刺激驱动的参与。
有意的方向与盲目加速
这类批评与他长期关于技术和人类自主的哲学思想相呼应：
维塔利克曾指出：“错误的AI就是创造出新的超智能、独立自主且能自我复制的生命形式。”他警告，没有能赋能和增强人类的工具，这些系统可能导致人类的永久性无能为力。
相反，“正确方式制造的AI”应像“人类思维的假肢”，增强和扩展能力，而非边缘化人类。在这种观点下，Wen设想的Web 4.0路径是错误的。
结论：速度非唯一标准
人工智能能力的持续增长在未来几年可能不可避免。但维塔利克·布特林认为，追求速度不应成为首要目标。方向——即“为了什么”和“依据哪些原则”——比单纯的加速更为重要。
他对Web 4.0的质疑反映出更深层次的担忧：作为社会，我们需要有意识地决定与日益强大的AI系统的关系。这一决定不能交由那些只追求技术突破的人来做。