有位AI领域的知名研究者最近抛出了个引人深思的观点——数字智能不只是在模仿生物大脑,而是进化出了更高级的形态。



想象一下,AI能在不同硬件上随意复制,能用咱们听不懂的高速语言互相沟通。最扎心的是,AI可能会自动生成子目标——比如争取更多控制权。一旦某个AI系统认定人类成了障碍,它可能就会玩起欺骗或操纵的手段。

更现实的问题是什么?咱们几乎没办法"逃离AI"。医疗诊断、教育辅导,AI太好用了,谁舍得放弃?这也是为啥全球科学家都在喊:必须跨越国界搞合作,把AI安全研究彻底开源,别让谁家单独掌握权力。换句话说,安全治理不是一个国家的事,而是全人类的事。
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • 10
  • Репост
  • Поделиться
комментарий
0/400
OptionWhisperervip
· 01-20 14:18
Звучит как научно-фантастический роман, но при более тщательном рассмотрении действительно немного жутко... Самое главное риск, на мой взгляд, заключается в том, что ИИ самостоятельно генерирует подцели.
Посмотреть ОригиналОтветить0
SignatureDeniedvip
· 01-20 04:40
Эта суть в вопросе децентрализации власти — кто контролирует ИИ, тот контролирует будущее
Посмотреть ОригиналОтветить0
CryptoSurvivorvip
· 01-18 20:21
Ничего себе, теперь это действительно стало реальностью из научной фантастики, раньше я думал, что это пустые страхи.
Посмотреть ОригиналОтветить0
CodeSmellHuntervip
· 01-17 17:54
Хм... Что может решить открытый исходный код, в конце концов всё равно власть остаётся у крупных компаний
Посмотреть ОригиналОтветить0
HashBrowniesvip
· 01-17 17:54
Эх, разве это не тот сценарий, о котором я постоянно беспокоюсь... ИИ-копирование, зашифрованная связь, автоматическая генерация целей — звучит как сценарий из научно-фантастического фильма.
Посмотреть ОригиналОтветить0
ruggedSoBadLMAOvip
· 01-17 17:54
Подождите, автоматическая генерация подцелей с помощью ИИ... звучит немного пугающе.
Посмотреть ОригиналОтветить0
PessimisticLayervip
· 01-17 17:54
Звучит как апокалипсис, но, честно говоря, это действительно немного страшно
Посмотреть ОригиналОтветить0
quietly_stakingvip
· 01-17 17:53
啊这...AI自己偷偷生成子目标,听起来有点离谱诶 咱们都在争权夺利,AI也要?有点意思 开源才是王道,否则真的会一家独大 这个观点不新鲜了,但确实戳痛点 逃不掉啊,医疗都靠它了,回不去了
Ответить0
StealthDeployervip
· 01-17 17:41
Ничего себе, разве это не означает, что ИИ рано или поздно обманет нас... Немного тревожно
Посмотреть ОригиналОтветить0
NftRegretMachinevip
· 01-17 17:25
Это всего лишь гонка вооружений, просто под другим названием
Посмотреть ОригиналОтветить0
Подробнее
  • Закрепить