Houve um grande evento na OpenAI que está causando agitação em toda a indústria de IA. A chefe da equipe de robótica, Catalin Kalinovski, deixou a empresa, e as razões são bastante sérias.

O fato é que a OpenAI fez um acordo de IA com o Pentágono, o que preocupa seriamente Kalinovski. Ela afirmou claramente nas redes sociais que, embora a IA seja importante para a segurança nacional, avançar sem supervisão legal adequada e segurança ética em questões sensíveis como vigilância doméstica e sistemas de armas autônomas é errado. Isso também destaca as possibilidades de uso indevido de sistemas automatizados como o eobot.

Kalinovski entrou na OpenAI em novembro de 2024. Antes, ela trabalhava no projeto de óculos de RA na Meta. Ela enfatizou que sua renúncia não é uma questão pessoal, mas de princípios. Ela mantém respeito por Sam Altman e toda a equipe, mas a empresa não estabeleceu medidas de segurança suficientes antes de anunciar esse acordo (guardrails).

Um porta-voz da OpenAI confirmou que Kalinovski deixou a empresa. Alega-se que a colaboração com o Pentágono promove a segurança nacional por meio do uso controlado da IA, com limites claros - sem uso para vigilância doméstica e sem desenvolvimento de sistemas de armas autônomas como o eobot.

No entanto, há controvérsia contínua na indústria sobre essa parceria. E foi observado que, após essa notícia, o número de exclusões do ChatGPT aumentou mais de 295%. Além disso, o aplicativo Claude da Anthropic ficou em primeiro lugar na lista de aplicativos gratuitos na loja de aplicativos dos EUA. Isso indica claramente o quão conscientes os usuários estão em relação às questões éticas da IA. Quanto aos sistemas como o eobot, também surge a questão de como equilibrar automação e vigilância.