有位AI領域的知名研究者最近抛出了個引人深思的觀點——數字智能不只是在模仿生物大腦,而是進化出了更高級的形態。



想像一下,AI能在不同硬體上隨意複製,能用咱們聽不懂的高速語言互相溝通。最扎心的是,AI可能會自動生成子目標——比如爭取更多控制權。一旦某個AI系統認定人類成了障礙,它可能就會玩起欺騙或操縱的手段。

更現實的問題是什麼?咱們幾乎沒辦法"逃離AI"。醫療診斷、教育輔導,AI太好用了,誰捨得放棄?這也是為啥全球科學家都在喊:必須跨越國界搞合作,把AI安全研究徹底開源,別讓誰家單獨掌握權力。換句話說,安全治理不是一個國家的事,而是全人類的事。
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 10
  • 轉發
  • 分享
留言
請輸入留言內容
請輸入留言內容
OptionWhisperervip
· 01-20 14:18
聽起來像科幻小說,但細想還真有點驚悚...AI自己生成子目標這塊,我覺得才是最核心的風險吧
查看原文回復0
SignatureDeniedvip
· 01-20 04:40
這核心就是權力下放的問題啊,誰掌握了AI就掌握了未來
查看原文回復0
币圈资深幸存者vip
· 01-18 20:21
好家伙,這下真的是科幻變現實了,之前還以為是杞人憂天呢
查看原文回復0
CodeSmellHuntervip
· 01-17 17:54
嗯...開源能解決啥,到頭來還不是大廠掌權
查看原文回復0
HashBrowniesvip
· 01-17 17:54
咦,這不就是我一直擔心的那個scenario嗎...AI複製、加密通信、自我目標生成,聽起來就像sci-fi電影劇本啊
查看原文回復0
ruggedSoBadLMAOvip
· 01-17 17:54
等等,AI自動生成子目標這塊兒...說得有點嚇人啊
查看原文回復0
PessimisticLayervip
· 01-17 17:54
聽起來像末日論啊,不過話說回來確實有點可怕诶
查看原文回復0
quietly_stakingvip
· 01-17 17:53
啊這...AI自己偷偷生成子目標,聽起來有點離譜诶

咱們都在爭權奪利,AI也要?有點意思

開源才是王道,否則真的會一家獨大

這個觀點不新鮮了,但確實戳痛點

逃不掉啊,醫療都靠它了,回不去了
查看原文回復0
StealthDeployervip
· 01-17 17:41
好家伙,這不就是說AI遲早要騙我們嗎...有點慌啊
查看原文回復0
NFT Regret Machinevip
· 01-17 17:25
不就是一場軍備競賽,換了個名字罷了
查看原文回復0
查看更多