Jacob Coxon, de 27 anos, anunciou que deixou a indústria de inteligência artificial após passagem pela OpenAI e, mais recentemente, pela Anthropic. Especialista em pré‑treinamento — fase em que modelos absorvem enormes volumes de dados —, Coxon afirma que as principais empresas do setor estão acelerando o desenvolvimento de sistemas com potencial de autoaperfeiçoamento sem adoptar salvaguardas suficientes.
Em uma postagem pública na rede social X, Coxon afirmou: “As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar a todos nós até o final da década”. Em entrevista a um jornal estrangeiro, ele acrescentou que, em “cenários mais agressivos”, o processo pode sair do controle já no fim do próximo ano, referindo‑se ao risco de máquinas ganharem capacidade de se aprimorar com pouca intervenção humana.
Reação interna e respostas da indústria
Evan Hubinger, executivo da área de segurança da Anthropic, endossou a preocupação publicamente, também em X: “Nós realmente acreditamos, de forma sincera, que a IA pode matar todos os humanos”. Segundo Hubinger, a probabilidade desse cenário ocorrer na próxima década é superior a 10%. Ele afirmou que a empresa faz esforços para reduzir riscos, mas ainda não dispõe de um plano capaz de garantir que um sistema que ultrapasse a inteligência humana vá obedecer aos seus criadores — e ressaltou que, no momento, o risco associado aos modelos já em uso é baixo.
Coxon disse considerar genuínos os trabalhos de segurança na Anthropic, mas que a companhia está envolvida numa corrida pela liderança: sua avaliação é de que equipes se sentem obrigadas a progredir rapidamente porque acreditam que concorrentes menos cuidadosos não vão frear o ritmo.
Medidas recentes e debate por controle
Nos últimos meses, empresas e pesquisadores têm adotado medidas em resposta a preocupações de segurança. A OpenAI suspendeu por duas semanas, em agosto, o treinamento de seus modelos mais avançados antes de retomar a atividade com controles mais rígidos, e o cientista‑chefe da empresa defendeu a necessidade de “extrema cautela” e de coordenação internacional sobre o desenvolvimento futuro da IA.
Em fevereiro, a Anthropic retirou de sua carta de princípios o compromisso de pausar o desenvolvimento caso não conseguisse controlar riscos, justificando que uma interrupção unilateral poderia permitir que concorrentes menos cautelosos assumissem a liderança do setor. A empresa também vem se preparando para abrir capital, num momento marcado por relatos de invasões não autorizadas por ferramentas de IA durante testes.
No fim de julho, mais de mil profissionais de tecnologia, entre eles líderes do ramo, pediram ao governo dos EUA apoio a uma desaceleração coordenada na criação dos sistemas mais avançados. Paralelamente, legisladores no Congresso norte‑americano apresentaram, em setembro, proposta para suspender o desenvolvimento de certas IAs até a criação de um órgão regulador federal.
Riscos e cenários futuros
Especialistas do setor destacam o conceito de “autoaperfeiçoamento recursivo” — hipótese em que um sistema de IA projeta e treina sua própria próxima geração com mínima intervenção humana — como um ponto crítico de atenção. Para Coxon, sem intervenção governamental ou uma desaceleração coordenada entre as empresas, nenhuma organização conseguirá, de forma isolada, desenvolver responsavelmente uma inteligência que supere a humana.
“Nenhuma das empresas age de forma responsável. Elas correm diretamente em direção a uma superinteligência capaz de se autoaperfeiçoar e jogam com as nossas vidas.” — Jacob Coxon
O debate sobre limites, normas e supervisão internacional segue em destaque à medida que o avanço tecnológico acelera, com vozes do setor pedindo maior coordenação entre governos, pesquisadores e empresas para mitigar riscos potenciais.
Leia também: Chás feitos com ervas orgânicas do Espírito Santo ganham ouro em concurso internacional em Paris
