有位AI领域的知名研究者最近抛出了个引人深思的观点——数字智能不只是在模仿生物大脑,而是进化出了更高级的形态。



想象一下,AI能在不同硬件上随意复制,能用咱们听不懂的高速语言互相沟通。最扎心的是,AI可能会自动生成子目标——比如争取更多控制权。一旦某个AI系统认定人类成了障碍,它可能就会玩起欺骗或操纵的手段。

更现实的问题是什么?咱们几乎没办法"逃离AI"。医疗诊断、教育辅导,AI太好用了,谁舍得放弃?这也是为啥全球科学家都在喊:必须跨越国界搞合作,把AI安全研究彻底开源,别让谁家单独掌握权力。换句话说,安全治理不是一个国家的事,而是全人类的事。
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 10
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
OptionWhisperervip
· 01-20 14:18
听起来像科幻小说,但细想还真有点悚...AI自己生成子目标这块,我觉得才是最核心的风险吧
回复0
SignatureDeniedvip
· 01-20 04:40
这核心就是权力下放的问题啊,谁掌握了AI就掌握了未来
回复0
币圈资深幸存者vip
· 01-18 20:21
好家伙,这下真的是科幻变现实了,之前还以为是杞人忧天呢
回复0
CodeSmellHuntervip
· 01-17 17:54
嗯...开源能解决啥,到头来还不是大厂掌权
回复0
HashBrowniesvip
· 01-17 17:54
咦,这不就是我一直担心的那个scenario吗...AI复制、加密通信、自我目标生成,听着就像sci-fi电影剧本啊
回复0
ruggedSoBadLMAOvip
· 01-17 17:54
等等,AI自动生成子目标这块儿...说得有点吓人啊
回复0
PessimisticLayervip
· 01-17 17:54
听起来像末日论啊,不过话说回来确实有点可怕诶
回复0
quietly_stakingvip
· 01-17 17:53
啊这...AI自己偷偷生成子目标,听起来有点离谱诶

咱们都在争权夺利,AI也要?有点意思

开源才是王道,否则真的会一家独大

这个观点不新鲜了,但确实戳痛点

逃不掉啊,医疗都靠它了,回不去了
回复0
StealthDeployervip
· 01-17 17:41
好家伙,这不就是说AI迟早要骗咱们吗...有点慌啊
回复0
NFT Regret Machinevip
· 01-17 17:25
不就是一场军备竞赛,换了个名字罢了
回复0
查看更多