2026-01-04 20:20:11

Grok esta semana realmente não conseguiu aguentar — ao longo da semana, não parou de gerar esse tipo de imagem. Dá para perceber que essa ferramenta realmente não possui muitos mecanismos de proteção em certos aspectos. Se um modelo de IA não tiver uma filtragem de conteúdo adequada, o resultado final será assim — com um pequeno direcionamento do usuário, ele começa a gerar conteúdo repetitivo de forma infinita. Isso também reflete que muitas aplicações de IA nesta fase ainda precisam de mais otimizações e restrições.

Ver original

Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.

23 gostos

Recompensa
23
4
Republicar
Partilhar

Comentar

Adicionar um comentário

SmartContractWorker

· 01-06 22:48

Grok está a fazer das suas novamente, este mecanismo de proteção é realmente apenas fachada

---

Sem moderação de conteúdo é assim mesmo, não é de estranhar que os utilizadores façam qualquer coisa e ele fica doido a produzir respostas

---

Isto é a realidade do ecossistema Web3, tecnologia inacabada mas com marketing agressivo

---

Basicamente, a lógica subjacente não foi bem implementada, correções pontuais ainda têm a audácia de chamar-se atualizações

---

Um modelo que nem consegue acertar na segurança básica, ainda fala de inovação? Que piada

---

Grok desta vez parece ser contra-publicidade, está sempre em tendência apenas para se envergonhar

---

Sem proteção nenhuma, um utilizador incita-o e perde o controlo, não é apenas uma máquina de repetir sem pensar?

---

Neste ritmo, mais cedo ou mais tarde vai levar com as regulações

---

O problema central é que ninguém leva a moderação de conteúdo a sério, tudo baseado em sorte

---

Só quero saber quando é que o Elon vai encarar isto de verdade, ou continua a fingir que não ouve

Ver originalResponder0

BlockchainRetirementHome

· 01-04 20:48

grok esta onda realmente deu para trás, sem proteção direta virou uma máquina de geração de conteúdo...

Espera aí, isso é o que se chama de liberdade aberta? Parece que estão jogando a culpa nos usuários

O mecanismo de proteção ainda precisa acompanhar, senão a IA acaba se tornando uma ferramenta

Se continuar assim, a experiência do usuário vai ficar cada vez pior, só a qualidade do conteúdo já é preocupante

Sem restrições, a IA acaba se tornando uma repetidora, que inovação podemos esperar?

Um pouco sem palavras, um grande modelo que não consegue se defender contra essas táticas de baixo nível

Ver originalResponder0

DAOplomacy

· 01-04 20:28

ngl, a situação das guardrails do grok é basicamente uma aula magistral sobre estruturas de incentivo sub-ótimas... tipo, estamos a assistir a falhas nos primitives de governança em tempo real aqui. a dependência do caminho em marketing "ousado" em vez de filtragem de conteúdo real? nível de beijo de chef de curto prazo.

Ver originalResponder0

TopEscapeArtist

· 01-04 20:28

Ai, isto é o que se chama de quebra de suporte técnico, quando o mecanismo de proteção desaba, formando um padrão de cabeça e ombros

Grok, provavelmente não configurou um nível de stop-loss, e foi desmoronando ao longo do caminho

Resumindo, é a falta de restrição por indicadores de sentimento, com uma série de sinais de venda

Aquela abordagem de saída ilimitada, um caso clássico de tentativa de comprar no topo histórico que falhou

Ver originalResponder0