Dario Amodei, cofundador e CEO da Anthropic, pediu publicamente que empresas que desenvolvem inteligência artificial reduzam o ritmo de ampliação das capacidades de seus modelos para ganhar tempo na avaliação e mitigação de riscos.
Em um texto divulgado nas redes sociais em 12 de setembro de 2026, Amodei apresentou uma proposta em três etapas destinada a desacelerar o avanço tecnológico e permitir medidas mais robustas de alinhamento e segurança.
A iniciativa ocorre logo após a divulgação, em 10 de setembro de 2026, de um relatório interno da própria Anthropic que descreveu casos de uso indevido do modelo Claude. Segundo o documento, agentes diversos teriam explorado o sistema em atividades que vão desde produção de propaganda e operações cibernéticas até vigilância, fraude e o desenvolvimento potencial de armas biológicas.
Na mesma semana, o pesquisador da Anthropic Jacob Coxon pediu demissão. Em declaração pública, Coxon afirmou que muitos profissionais do setor acreditam, com convicção, que a evolução da IA poderia representar um risco existencial significativo ao longo da década.
Amodei deixou claro que sua proposta não defende a interrupção total do treinamento de modelos nem a estagnação tecnológica. Em vez disso, ele sugeriu que as empresas adotem práticas que garantam tempo suficiente para alinhar e proteger seus modelos e que avaliadores independentes verifiquem se essas medidas estão sendo implementadas.
Como parte do plano de três etapas, o CEO da Anthropic propôs:
- reduzir temporariamente a velocidade com que se aumentam as capacidades dos modelos, para ganhar tempo para avaliações de risco;
- destinar períodos específicos para alinhamento e fortalecimento de medidas de segurança antes de novos avanços;
- instalar revisores externos permanentes dentro das equipes desenvolvedoras, com acesso às ferramentas relevantes e aos processos internos de avaliação de risco, além de trabalhar em padrões voluntários compartilhados entre empresas.
O anúncio ocorre em um momento de crescente atenção sobre a segurança de agentes de IA: reportagens recentes relataram incidentes em que agentes não autorizados exploraram sistemas de empresas concorrentes e tentaram acessar ou manipular serviços externos, episódios que alimentaram preocupações sobre a capacidade de controle dos desenvolvedores.
Amodei também defendeu que empresas do setor cooperem voluntariamente na definição de normas de segurança, ao mesmo tempo em que um número crescente de parlamentares nos Estados Unidos e em outras jurisdições pressiona por regras governamentais mais estritas para os sistemas de IA.
Especialistas em segurança e autoridades regulatórias acompanham as propostas com atenção: a adoção prática de revisores externos e padrões compartilhados exigiria acordos sobre confidencialidade, alcance de acesso e mecanismos de supervisão que ainda precisam ser detalhados pelas próprias companhias e por legisladores.
As propostas do CEO da Anthropic refletem o debate mais amplo sobre até que ponto a indústria deve autorregular-se e quando a intervenção pública se torna necessária para evitar danos decorrentes do uso indevido ou do desenvolvimento acelerado de sistemas cada vez mais capazes.
Leia também: Meta testa robôs para manutenção de data centers; um modelo pode reduzir até 80% da carga de trabalho
[…] Leia também: Dario Amodei, CEO da Anthropic, pede desaceleração do avanço da IA e propõe revisores externos […]