Grok这周真的有点绷不住了——一周下来就没停过生成那类图片。看得出来这工具在某些方面确实没有什么防护机制。一个AI模型要是没有合理的内容过滤,最后的结果就是这样——用户稍微一引导,它就开始无限输出重复内容。这也反映了现阶段很多AI应用还需要更多的优化和约束。

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 4
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
智能合约打工人vip
· 01-06 22:48
Grok又开始作妖了,这防护机制真的是摆设啊

---

没有内容审核就这德行,难怪用户随便一撩拨就疯狂输出

---

这才是Web3生态里真实的样子,技术烂尾但吹得贼猛

---

说白了就是底层逻辑没做好,补丁式修复还好意思叫升级

---

一个模型连基础安全都搞不定,还谈什么革新,笑死

---

Grok这一波怎么感觉反向宣传了,天天上热搜就为了丢人

---

防护全无,用户一激就失控,这不就是个无脑的复读机吗

---

照这个趋势下去,早晚得被监管锤死

---

核心问题还是没人认真做内容审核,全靠侥幸过日子

---

我就想知道Elon什么时候能正视这事儿,还是继续装听不见
回复0
BlockchainRetirementHomevip
· 01-04 20:48
grok这波真的翻车了,没点防护直接成了内容生成机器...

等等,这就是所谓的开放自由?感觉就是甩锅给用户啊

防护机制这东西还是得跟上,不然ai就成了工具人

这样下去用户体验会越来越差吧,光内容质量就堪忧

ai没约束,最后就成了复读机,谈什么创新呢

有点无语,堂堂大模型居然防不住这种低端套路
回复0
DAOplomacyvip
· 01-04 20:28
说实话,grok的守护机制情况基本上是关于次优激励结构的经典案例……就像我们在实时观察治理原语的失败。对“前卫”营销优先于实际内容过滤的路径依赖?简直是短视的极致。
查看原文回复0
逃顶大师vip
· 01-04 20:28
哎呀,这就叫技术面破位啊,防护机制一崩就是头肩顶形态

Grok这是没设止损位吧,一路裂开

说白了就是缺少情绪指标的约束,看空信号一堆

无限输出那套,纯纯的历史高点抄底失败案例
回复0