Grok這周真的有點撐不住了——一周下來就沒停過生成那類圖片。看得出來這工具在某些方面確實沒有什麼防護機制。一個AI模型要是沒有合理的內容過濾,最後的結果就是這樣——用戶稍微一引導,它就開始無限輸出重複內容。這也反映了現階段很多AI應用還需要更多的優化和約束。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 4
  • 轉發
  • 分享
留言
請輸入留言內容
請輸入留言內容
智能合约打工人
· 01-06 22:48
Grok又開始作妖了,這防護機制真的是擺設啊

---

沒有內容審核就這德行,難怪用戶隨便一撩撥就瘋狂輸出

---

這才是Web3生態裡真正的樣子,技術烏漆嘛黑但吹得贼猛

---

說白了就是底層邏輯沒做好,補丁式修復還好意思叫升級

---

一個模型連基礎安全都搞不定,还談什麼革新,笑死

---

Grok這一波怎麼感覺反向宣傳了,天天上熱搜就為了丟人

---

防護全無,用戶一激就失控,這不就是個無腦的復讀機嗎

---

照這個趨勢下去,早晚得被監管錘死

---

核心問題還是沒人認真做內容審核,全靠僥倖過日子

---

我就想知道Elon什麼時候能正視這事兒,還是繼續裝聽不見
查看原文回復0
BlockchainRetirementHome
· 01-04 20:48
grok這波真的翻車了,沒點防護直接成了內容生成機器...

等等,這就是所謂的開放自由?感覺就是甩鍋給用戶啊

防護機制這東西還是得跟上,不然ai就成了工具人

這樣下去用戶體驗會越來越差吧,光內容質量就堪憂

ai沒約束,最後就成了復讀機,談什麼創新呢

有點無語,堂堂大模型居然防不住這種低端套路
查看原文回復0
DAOplomacy
· 01-04 20:28
說實話,grok 的守護措施情況基本上是一堂關於次優激勵結構的大師課……就像我們在實時目睹治理原語失敗一樣。對於「前衛」行銷而非實際內容過濾的路徑依賴?短視近利的完美典範。
查看原文回復0
逃顶大师
· 01-04 20:28
哎呀,这就叫技術面破位啊,防護機制一崩就是頭肩頂形態

Grok這是沒設止損位吧,一路裂開

說白了就是缺少情緒指標的約束,看空信號一堆

無限輸出那套,純純的歷史高點抄底失敗案例
查看原文回復0