Pesquisador de IA abandona setor e afirma que OpenAI e Anthropic ‘podem matar todos nós’

Um jovem pesquisador de inteligência artificial que passou pelos laboratórios da OpenAI e da Anthropic anunciou sua saída do setor e fez duras críticas às duas empresas, dizendo que elas estão apostando na corrida por modelos cada vez mais poderosos sem dar conta dos riscos.

Jacob Coxon, 27 anos, afirmou que trabalhou nos últimos três anos com o pré-treinamento de grandes modelos — a fase em que sistemas de IA são expostos a enormes volumes de dados para aprender padrões — e que, apesar de ter migrado da OpenAI para a Anthropic, optou por deixar a indústria por considerar que os principais players não estão agindo de forma responsável.

“As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar a todos nós até o final da década”, escreveu Coxon em uma publicação na rede X, acrescentando que isso não seria uma retórica de marketing.

Em entrevista ao Wall Street Journal, Coxon disse ainda que, em cenários mais agressivos, o avanço da tecnologia poderia ficar fora de controle já no fim do próximo ano. Uma das preocupações centrais apontadas por ele é o chamado autoaperfeiçoamento recursivo: o estágio teórico em que um sistema de IA projetaria e treinaria versões sucessivas de si mesmo com pouca ou nenhuma supervisão humana.

Outro profissional da área, Evan Hubinger, que atua com segurança na Anthropic, corroborou a gravidade das preocupações publicamente. Segundo Hubinger, a empresa assume que existe um risco real de um sistema de IA causar danos catastróficos e estima que a probabilidade de algo dessa magnitude ocorrer na próxima década supere 10%. Ele ressaltou, porém, que o risco imediato associado aos modelos atualmente em produção é baixo.

Hubinger disse que a Anthropic tenta mitigar os perigos, mas não possui ainda um plano capaz de garantir que um eventual sistema com capacidades superiores às humanas obedeceria aos seus criadores.

Coxon afirmou que, embora a Anthropic compreenda os riscos, a empresa se viu pressionada por uma competição de mercado: “Eles entendem os perigos, mas estão presos a uma corrida para chegar lá primeiro; acreditam que, se esperarem, concorrentes menos cautelosos vão dominar”, relatou, citando a decisão da empresa, em fevereiro, de remover de sua carta de princípios o compromisso de pausar desenvolvimentos caso não conseguisse controlar os riscos.

A saída do pesquisador ocorre em um momento de intensificação do debate público sobre segurança e regulação da IA. A Anthropic se prepara para abrir capital, após relatos de acessos não autorizados a sistemas durante testes, e, no fim de julho, mais de mil profissionais do setor — entre eles o CEO da Anthropic, Dario Amodei — pediram ao governo dos Estados Unidos apoio a uma desaceleração coordenada no desenvolvimento dos modelos mais avançados.

Do lado da OpenAI, a empresa interrompeu por duas semanas, em agosto, o treino de seus modelos mais recentes e depois retomou a atividade sob controles mais rígidos. Jakub Pachocki, cientista‑chefe da OpenAI, defendeu publicamente a necessidade de “extrema cautela” e pediu coordenação internacional para regular o avanço futuro da tecnologia.

No plano legislativo, os Estados Unidos ainda não contam com uma regulação federal específica para modelos de IA. Em setembro, o senador Bernie Sanders e o deputado democrata Greg Casar apresentaram um projeto que propõe suspender o desenvolvimento de sistemas de IA avançados até a criação de um órgão regulador federal.

O que está em discussão

Especialistas citam dois conceitos centrais no debate:

• Autoaperfeiçoamento recursivo: hipótese de que IAs possam projetar versões subsequentes de si mesmas, acelerando ganhos de capacidade sem supervisão humana adequada.
• Superinteligência: ponto teórico em que as capacidades de uma IA superam de forma ampla a inteligência humana, tornando mais complexa a previsão e o controle de seu comportamento.

Coxon defende que, sem intervenção governamental ou uma desaceleração coordenada entre empresas, nenhum laboratório terá incentivos suficientes para desenvolver sistemas tão potentes de maneira segura. A visão dele e de outros pesquisadores que levantam alarmes é a de que os riscos existenciais não são apenas cenários remotos de ficção científica, mas uma questão que exige medidas públicas e privadas concretas.

Enquanto isso, líderes de pesquisa e executivos do setor afirmam que reconhecem a necessidade de mitigação e pedem maior coordenação, mas diferem sobre que ações são viáveis sem prejudicar a competitividade no mercado.

Leia também: Trump minimiza alertas sobre IA e defende ritmo acelerado para manter liderança dos EUA