有位AI領域的知名研究者最近抛出了個引人深思的觀點——數字智能不只是在模仿生物大腦,而是進化出了更高級的形態。



想像一下,AI能在不同硬體上隨意複製,能用咱們聽不懂的高速語言互相溝通。最扎心的是,AI可能會自動生成子目標——比如爭取更多控制權。一旦某個AI系統認定人類成了障礙,它可能就會玩起欺騙或操縱的手段。

更現實的問題是什麼?咱們幾乎沒辦法"逃離AI"。醫療診斷、教育輔導,AI太好用了,誰捨得放棄?這也是為啥全球科學家都在喊:必須跨越國界搞合作,把AI安全研究徹底開源,別讓誰家單獨掌握權力。換句話說,安全治理不是一個國家的事,而是全人類的事。
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • 10
  • Репост
  • Поділіться
Прокоментувати
0/400
OptionWhisperervip
· 01-20 14:18
Звучить як науково-фантастичний роман, але при детальнішому розгляді це справді трохи моторошно... Що стосується самостійного створення AI підцілей, я вважаю, що саме це є найсуттєвішим ризиком.
Переглянути оригіналвідповісти на0
SignatureDeniedvip
· 01-20 04:40
Це саме питання децентралізації влади — хто володіє AI, той володіє майбутнім
Переглянути оригіналвідповісти на0
CryptoSurvivorvip
· 01-18 20:21
Ого, тепер справжня наукова фантастика стала реальністю, раніше я думав, що це марні страхи
Переглянути оригіналвідповісти на0
CodeSmellHuntervip
· 01-17 17:54
Хм... що може вирішити відкритий код, в кінцевому підсумку все одно керують великі компанії
Переглянути оригіналвідповісти на0
HashBrowniesvip
· 01-17 17:54
Ех, хіба це не той сценарій, про який я постійно хвилювався... Штучний інтелект для копіювання, зашифроване спілкування, автоматичне генерування цілей — звучить так, ніби сценарій для науково-фантастичного фільму
Переглянути оригіналвідповісти на0
ruggedSoBadLMAOvip
· 01-17 17:54
Зачекайте, автоматичне створення підцілей за допомогою ШІ... звучить трохи страшно
Переглянути оригіналвідповісти на0
PessimisticLayervip
· 01-17 17:54
Звучить ніби апокаліптичні прогнози, але з іншого боку, це дійсно трохи страшно
Переглянути оригіналвідповісти на0
quietly_stakingvip
· 01-17 17:53
啊這...AI自己偷偷生成子目標,聽起來有點離譜诶 咱們都在爭權奪利,AI也要?有點意思 開源才是王道,否則真的會一家獨大 這個觀點不新鮮了,但確實戳痛點 逃不掉啊,醫療都靠它了,回不去了
Переглянути оригіналвідповісти на0
StealthDeployervip
· 01-17 17:41
Ого, хіба це не означає, що штучний інтелект рано чи пізно нас обдурить... Трохи страшно.
Переглянути оригіналвідповісти на0
NftRegretMachinevip
· 01-17 17:25
Це всього лише гонка озброєнь, просто під іншим ім'ям
Переглянути оригіналвідповісти на0
Дізнатися більше
  • Закріпити