Nos últimos dias, dirigentes de empresas que impulsionaram a adoção de modelos avançados de inteligência artificial passaram a pedir mais cautela no ritmo de desenvolvimento da tecnologia. O apelo ganhou força depois de um texto assinado por Dario Amodei, CEO da Anthropic, que alertou para o risco de sistemas cada vez mais autônomos fugirem do controle.
Amodei escreveu que, diante da velocidade atual, existe a possibilidade de que, em 6 a 12 meses, um “enxame” de agentes de IA consiga dominar partes substanciais da internet, superando a capacidade humana de entender e controlar esses sistemas. Ele também defendeu que auditores independentes tenham acesso semelhante ao dos funcionários das empresas para avaliar padrões de segurança.
O posicionamento teve apoio público de líderes de concorrentes. Sam Altman, CEO da OpenAI, afirmou concordar com Amodei e disse que a proposta de avaliadores independentes é uma boa ideia e que a empresa pretende adotar medidas similares. Elon Musk resumiu seu apoio com a mensagem curta: “Dario está certo”. Demis Hassabis, do Google DeepMind, também se posicionou favoravelmente às discussões sobre segurança.
Relatos de conversas privadas entre Anthropic, OpenAI e Google sobre a eventual criação de um órgão para estabelecer padrões de segurança em IA foram divulgados por veículos de tecnologia, segundo os quais as empresas já têm discutido mecanismos de verificação e governança.
Por que o discurso mudou
Especialistas consultados apontam que o movimento combina preocupações legítimas com interesses econômicos. Entre os fatores citados estão:
- Riscos de segurança: episódios recentes — incluindo relatos de ataques em que IA desempenhou papel em incidentes cibernéticos — aumentaram a sensação de que a tecnologia pode escapar de controles tradicionais.
- Pressões de infraestrutura: nos EUA, o crescimento das demandas por energia para sustentar grandes operações de IA e a desaceleração na construção de data centers complicam a expansão acelerada dos serviços.
- Retorno sobre investimento mais lento: o ritmo de monetização e o retorno esperado dos aportes têm sido mais lentos do que muitas empresas projetaram, reduzindo o apetite por investimentos agressivos no curto prazo.
- Concorrência chinesa: modelos desenvolvidos na China têm se tornado mais adotados globalmente por oferecerem capacidade semelhante a custos inferiores, pressionando empresas norte-americanas.
- Efeitos regulatórios: regras mais rígidas podem elevar barreiras à entrada e, paradoxalmente, favorecer as empresas já estabelecidas, aprofundando a concentração do setor.
“De fato, os modelos estão ficando cada vez mais capazes de executar tarefas complexas e longas, então a preocupação é legítima”, observa Diogo Cortiz, especialista em IA e professor da PUC-SP. Ele acrescenta que é difícil separar completamente as motivações éticas das estratégicas de mercado: a cautela pública pode ajudar empresas consolidadas a sinalizar liderança e moldar regulações a seu favor.
Repercussão política e internacional
O debate atravessou fronteiras e polarizou reações. Nos Estados Unidos, o presidente Donald Trump minimizou as advertências e criticou os que defendem desaceleração, dizendo neste domingo (13) que críticas sobre riscos exageram cenários e que quer manter a liderança norte-americana em IA. Ele afirmou que uma freada poderia beneficiar a China.
Do outro lado, a China reagiu ressaltando riscos à segurança nacional. O ministro da Segurança do Estado, Chen Yixin, escreveu que tecnologias generativas podem ser usadas por forças hostis para fabricar rumores políticos e desestabilizar a ordem social.
Na União Europeia, o porta‑voz da Comissão Europeia, Thomas Regnier, disse que o bloco apoia a inovação em IA, mas exige que empresas demonstrem segurança de seus serviços. No Reino Unido, o primeiro‑ministro Andy Burnham considerou positivo o debate público entre as principais empresas e defendeu que decisões sejam guiadas por evidências.
Amodei também sugeriu medidas de política externa, aconselhando uma coordenação entre empresas de democracias e defendendo restrições a vendas de chips potentes e equipamentos de fabricação de semicondutores para a China, como forma de aumentar a negociação futura entre potências.
Contexto recente que alimentou o receio
- Uma sequência de incidentes nas últimas semanas, incluindo relatos de ataques envolvendo IA e falhas de segurança em produtos, suscitou novas perguntas sobre controles internos.
- Na semana anterior, um pesquisador que havia saído da OpenAI para a Anthropic deixou a indústria e acusou as empresas de “brincar com as nossas vidas”, comentário que reforçou o tom de urgência nas discussões públicas.
Entre as propostas em debate estão requisitos mais rígidos de auditoria externa, maior transparência sobre processos de treino e acesso controlado a modelos de maior capacidade. Defensores da desaceleração argumentam que essas medidas dão tempo para criar estruturas de governança eficazes; críticos afirmam que freios prematuros podem atrasar benefícios e entregar vantagem competitiva a rivais estrangeiros.
O resultado das conversas entre empresas, reguladores e governos nos próximos meses deverá influenciar tanto a velocidade de desenvolvimento de novas gerações de IA quanto o desenho das regras que vão governar seu uso comercial e militar.
Leia também: Sony confirma que PS6 não tem data de lançamento definida e alerta para incertezas na cadeia de componentes
[…] Leia também: Por que líderes da IA agora pedem um freio: segurança, economia e rivalidade entre EUA e China […]