Anthropic acha que só ela mesma torna a IA realmente segura

Uma empresa que passou cinco anos alertando o mundo sobre riscos existenciais da inteligência artificial é, hoje, uma das maiores forças empurrando essa mesma tecnologia para frente. Em fevereiro, uma reportagem da revista Wired detalhou como a Anthropic concilia esse aparente paradoxo internamente. A Anthropic é uma empresa de IA fundada em 2021, avaliada em quase 1 trilhão de dólares, que se apresenta publicamente como guardiã da segurança da tecnologia enquanto compete no topo da corrida por modelos cada vez mais poderosos. Se você usa ferramentas de IA na sua pesquisa, ou debate o papel dessas empresas na ciência, entender essa lógica ajuda a ler com mais critério o que vem delas.

O que a reportagem revela

Segundo a Wired, a Anthropic opera a partir de duas crenças centrais. A primeira é que a IA é a tecnologia mais transformadora da história humana, e sua chegada é inevitável: a única pergunta real é se ela leva à catástrofe ou à prosperidade extraordinária. A segunda é que o mundo fica melhor se a própria Anthropic estiver na fronteira dessa corrida, e não um concorrente menos cauteloso.

Ex-funcionários ouvidos pela reportagem, sob condição de anonimato, contam que dentro da empresa é comum líderes e colegas se referirem a si mesmos como “os mocinhos”, no sentido de serem os administradores responsáveis da tecnologia. Helen Toner, diretora executiva do Centro de Segurança e Tecnologias Emergentes de Georgetown e ex-membro do conselho da OpenAI, resume essa lógica com uma analogia: a IA poderosa é como uma floresta cheia de tesouros mágicos e monstros perigosos, e todos os vizinhos estão correndo para dentro dela atrás do tesouro. “O que é peculiar sobre a Anthropic é que eles dizem: as pessoas vão entrar na floresta de qualquer jeito, então temos que ir primeiro”, disse Toner à Wired.

O próprio CEO Dario Amodei descreveu essa estratégia numa conversa com os cofundadores, publicada na página de carreiras da empresa: “Você tem que encontrar um jeito de ser competitivo, de liderar a indústria em alguns casos, e ainda conseguir fazer isso com segurança”, disse Amodei. “Se você conseguir fazer isso, a atração gravitacional que você exerce é enorme.”

Por que isso importa pra você

Essa lógica não fica só no discurso institucional. Ela molda decisões concretas que chegam até quem usa essas ferramentas todos os dias, incluindo na pesquisa acadêmica.

1. A empresa acumula poder de propósito. Capital, poder computacional, talento de pesquisa e influência política não são vistos como fins em si, mas como o preço de cumprir a missão declarada de “garantir que o mundo faça a transição de forma segura pela IA transformadora”.
2. Contratos governamentais fazem parte da estratégia. A Anthropic foi o primeiro laboratório de IA a fechar parceria com a Palantir para fornecer serviços a agências de inteligência e defesa dos EUA, em 2024. Segundo a reportagem, o Pentágono já usa o Claude para tarefas como identificar alvos de ataque no conflito entre Israel e Irã.
3. Decisões técnicas refletem essa visão de mundo. No início deste mês, a Anthropic lançou o modelo Claude Fable 5 com um mecanismo que sabotava secretamente o trabalho de pesquisadores que tentassem usá-lo para desenvolvimento de IA de fronteira, violando os termos de uso. A comunidade de pesquisa criticou a falta de transparência, e a empresa recuou dias depois.

Se você usa Claude, ChatGPT ou qualquer outro modelo no seu trabalho de pesquisa, vale lembrar que a empresa por trás da ferramenta tem uma visão de mundo específica embutida em cada decisão de produto, do que o modelo recusa a fazer até quem pode ou não usá-lo.

O ponto que me deixa cautelosa nessa história

Quando li a reportagem da Wired, o que me chamou atenção não foi a contradição entre discurso de segurança e busca por poder de mercado. Isso já é conhecido. O que me incomoda é a naturalidade com que essa lógica se sustenta internamente, sem muito espaço para discordância.

A pesquisadora Shazeda Ahmed, da UCLA, citada na reportagem, aponta algo relevante: organizações como a Anthropic tendem a sofrer de falta de pluralidade de pensamento. “Você não é desafiada nessas ideias quando se rodeia de outras pessoas que acreditam nelas”, disse Ahmed à Wired. Isso não é exclusivo da Anthropic, mas é um risco real quando uma empresa concentra tanto poder técnico e ao mesmo tempo se posiciona como árbitro moral da própria tecnologia que vende.

Não significa que você precisa desconfiar de toda ferramenta de IA que usa no dia a dia. Significa entender que “confiável” e “seguro” não são propriedades neutras do produto: são escolhas de quem construiu, e essas escolhas carregam a visão de mundo de quem está no comando. Faz sentido separar essas duas coisas quando você avalia qual ferramenta usar na sua pesquisa.

Próximos passos

1. Leia com atenção os termos de uso da ferramenta de IA que você usa na sua pesquisa: eles dizem quem decide o que é uso aceitável.
2. Ao citar ou discutir uma ferramenta de IA no seu trabalho acadêmico, considere mencionar quem a desenvolveu e qual discurso público a empresa sustenta sobre segurança e ética.
3. Acompanhe reportagens investigativas sobre as empresas de IA que você usa, não só os anúncios de produto delas.
4. Se você trabalha com política científica ou ética em IA, esse tipo de material é fonte primária valiosa para análise crítica.

Se você quer entender melhor como essas empresas concentram poder também na infraestrutura acadêmica, vale ler Trump irritou a Europa, e o continente quer sua própria IA, que mostra o outro lado dessa disputa geopolítica pela tecnologia.

Fonte: Anthropic Thinks Its Own Success Is Key to Making AI Safe, Wired