Achei bem interessante esse relatório que saiu recentemente sobre o que realmente acontecia dentro da openai. Basicamente, jornalistas investigativos passaram meses entrevistando mais de 100 pessoas envolvidas, conseguiram memorandos internos nunca divulgados e descobriram algo bem perturbador: documentos de 70 páginas do cientista-chefe Ilya Sutskever concluindo que Sam Altman demonstrava um padrão consistente de mentiras. Não é pouca coisa.

O que chamou minha atenção foi como a openai começou como uma organização sem fins lucrativos em 2015 com a promessa clara de priorizar segurança sobre tudo. A ideia era que se a IA ficasse perigosa, o conselho teria poder para encerrar a empresa. Mas aí entra a questão central: tudo dependia de uma pessoa extremamente honesta controlando a tecnologia. E se a aposta fosse errada?

Os detalhes são preocupantes. Em dezembro de 2022, durante reunião do conselho, Sam garantiu que funcionalidades do GPT-4 já haviam passado por revisão de segurança. Quando pediram para ver os documentos, descobriram que duas das funcionalidades mais controversas nunca foram aprovadas pelo painel de segurança. Há também anotações de Dario Amodei, fundador da Anthropic que trabalhou em segurança na openai, descrevendo como a empresa recuava passo a passo sob pressão comercial.

Tem mais. A openai anunciou publicamente que alocaria 20% da capacidade computacional para uma equipe de superalinhamento, com valor potencial acima de US$1 bilhão. Só que na prática? Quatro pessoas que trabalharam lá confirmaram que foi apenas 1-2% da capacidade total, com hardware mais antigo. A equipe foi desmantelada sem completar sua missão.

O que me chamou atenção mesmo foi a descrição de um ex-membro do conselho sobre Sam. Ele tem uma combinação extremamente rara: em conversas cara a cara, demonstra forte desejo de agradar. Ao mesmo tempo, mostra indiferença quase sociopática em relação às consequências de enganar pessoas. Executivos da Microsoft chegaram a comparar isso com Bernie Madoff ou SBF. Pesado.

Agora tem a questão da CFO Sarah Friar que não concorda com acelerar o IPO este ano, argumentando que os riscos financeiros são muito altos (Sam prometeu US$600 bilhões em gastos de computação em cinco anos). Mas aí ela deixou de reportar direto para Sam, reporta para outro executivo que tirou licença médica. A empresa está em processo de IPO com divergências fundamentais entre CEO e CFO. Absurdo.

O ponto que Gary Marcus levantou faz sentido: se um futuro modelo da openai conseguir criar armas bioquímicas ou lançar ataques cibernéticos, você realmente quer deixar que uma pessoa com esse histórico de integridade decida sozinha se libera ou não? A resposta oficial da openai foi vaga, questionando motivos de fontes em vez de negar os fatos específicos.

É tipo aquela frase que vi: uma organização sem fins lucrativos criada para proteger a humanidade virou uma máquina comercial onde praticamente cada medida de segurança foi pessoalmente removida pela mesma pessoa. Dez anos resumidos assim: idealismo → avanço tecnológico → capital massivo → missão cedendo espaço → segurança desmantelada → estrutura transformada em entidade com fins lucrativos.

Tudo isso enquanto Sam se prepara para levar a openai a IPO com avaliação acima de US$850 bilhões. Mais de cem testemunhas o descreveram com o mesmo rótulo: não restrito pela verdade. Essa história é bem mais que boato corporativo. Quando estamos falando da tecnologia potencialmente mais poderosa da história humana, integridade do CEO não é detalhe, é risco existencial para todos.