我刚刚读到一些让我非常不安的事情,关于OpenAI实际上发生了什么。结果不久前,《纽约时报》发表了一项调查,记者如Ronan Farrow采访了超过100人,并获得了从未公开披露的内部文件。由此得出的故事比公众所知的要黑暗得多。



最强烈的细节:OpenAI的首席科学家伊利亚·苏茨克弗(Ilya Sutskever)在几年前写了一份70页的备忘录,基本上记录了一个持续的模式。他最初的结论是直截了当的:Sam表现出系统性地对高管和董事会撒谎的行为。这不是猜测,而是具体案例。例如,2022年12月,Sam在董事会会议上保证GPT-4的功能已通过安全审查。当他们要求查看文件时,发现两个最具争议的特性从未获得安全委员会的批准。

但让我最震惊的是他们在Anthropic创始人、曾在OpenAI工作的Dario Amodei的私人笔记中发现的内容。超过200页的文件记录了公司在商业压力下逐步倒退的过程。Amodei发现,微软插入了一项否决条款,基本上取消了他在整个交易中最看重的安全保障。从签署之日起,这一保障就变成了废纸一张。

还有一个细节让你毛发倒竖。OpenAI公开宣布,将其20%的计算能力分配给一个超级对齐团队,潜在价值超过十亿美元。这个公告极其严肃,谈及对人类存在的风险。根据四个曾在该团队工作过的人的说法,实际的计算能力只有1%到2%,而且是最老的硬件。之后,这个团队被解散,未能完成其使命。

荒谬的是,当记者们要求采访负责安全存在性研究的人员时,公关部门的回答是,这实际上在OpenAI不存在。

而且,这正是在披露CFO Sarah Friar与Sam之间存在严重分歧的时候。Friar认为OpenAI今年还不具备上市的条件,但Sam想推动首次公开募股。更奇怪的是,Friar现在不再直接向Sam汇报,而是向另一位因健康原因休假的高管汇报。这样一个内部结构下的公司,竟在准备IPO。

微软的内部高管们已经无法忍受了。他们说,Sam歪曲事实,违背承诺,不断撤销协议。有的人甚至把他比作Bernie Madoff或SBF。

一位前董事会成员这样描述他:Sam拥有一种极其罕见的品质组合。在每次面对面交流中,他都表现出强烈的取悦欲望,但同时又几乎表现出一种社会病态的漠不关心,似乎对欺骗他人后果毫不在意。对一个销售人员来说,这是最完美的天赋。

让我担心的是,OpenAI并不是一家普通的科技公司。根据他们自己的说法,他们可能正在开发人类历史上最强大的技术。他们可以重塑全球经济、劳动力市场,而且根据自己的文件,这些技术也可能被用来制造生物化学武器或进行网络攻击。所有的安全保障都变成了空谈。非营利使命让位于追逐IPO的竞赛。

前首席科学家和前安全负责人都认为CEO不可靠。我们真的觉得安全,任由一个人单方面决定何时发布可能改变人类命运的AI模型吗?

OpenAI的回应很简洁:该文章重申了已报道的事件,使用匿名声明和精选轶事。Sam没有回应具体指控,也没有否认备忘录的真实性,只是质疑动机。

十年来的OpenAI总结:一群关心AI风险的理想主义者创建了一个非营利组织。他们取得了非凡的突破。资本大量涌入。使命开始动摇。安全团队被解散。批评者被清除。非营利结构转变为营利实体。曾经可以关闭公司的董事会,现在充满了CEO的盟友。承诺投入20%计算能力用于安全的公司,现在公关说这根本不存在。

超过一百名目击者都给出了相同的标签:不以真相为依据。而且,这家公司即将进行估值超过8500亿美元的IPO。
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论