Nos últimos dias, dirigentes de empresas que impulsionaram a adoção de modelos avançados de inteligência artificial passaram a pedir mais cautela no ritmo de desenvolvimento da tecnologia. O apelo ganhou força depois de um texto assinado por Dario Amodei, CEO da Anthropic, que alertou para o risco de sistemas cada vez mais autônomos fugirem do controle.
Amodei escreveu que, diante da velocidade atual, existe a possibilidade de que, em 6 a 12 meses, um “enxame” de agentes de IA consiga dominar partes substanciais da internet, superando a capacidade humana de entender e controlar esses sistemas. Ele também defendeu que auditores independentes tenham acesso semelhante ao dos funcionários das empresas para avaliar padrões de segurança.
O posicionamento teve apoio público de líderes de concorrentes. Sam Altman, CEO da OpenAI, afirmou concordar com Amodei e disse que a proposta de avaliadores independentes é uma boa ideia e que a empresa pretende adotar medidas similares. Elon Musk resumiu seu apoio com a mensagem curta: “Dario está certo”. Demis Hassabis, do Google DeepMind, também se posicionou favoravelmente às discussões sobre segurança.
Relatos de conversas privadas entre Anthropic, OpenAI e Google sobre a eventual criação de um órgão para estabelecer padrões de segurança em IA foram divulgados por veículos de tecnologia, segundo os quais as empresas já têm discutido mecanismos de verificação e governança.
Por que o discurso mudou
Especialistas consultados apontam que o movimento combina preocupações legítimas com interesses econômicos. Entre os fatores citados estão:
- Riscos de segurança: episódios recentes — incluindo relatos de ataques em que IA desempenhou papel em incidentes cibernéticos — aumentaram a sensação de que a tecnologia pode escapar de controles tradicionais.
- Pressões de infraestrutura: nos EUA, o crescimento das demandas por energia para sustentar grandes operações de IA e a desaceleração na construção de data centers complicam a expansão acelerada dos serviços.
- Retorno sobre investimento mais lento: o ritmo de monetização e o retorno esperado dos aportes têm sido mais lentos do que muitas empresas projetaram, reduzindo o apetite por investimentos agressivos no curto prazo.
- Concorrência chinesa: modelos desenvolvidos na China têm se tornado mais adotados globalmente por oferecerem capacidade semelhante a custos inferiores, pressionando empresas norte-americanas.
- Efeitos regulatórios: regras mais rígidas podem elevar barreiras à entrada e, paradoxalmente, favorecer as empresas já estabelecidas, aprofundando a concentração do setor.
“De fato, os modelos estão ficando cada vez mais capazes de executar tarefas complexas e longas, então a preocupação é legítima”, observa Diogo Cortiz, especialista em IA e professor da PUC-SP. Ele acrescenta que é difícil separar completamente as motivações éticas das estratégicas de mercado: a cautela pública pode ajudar empresas consolidadas a sinalizar liderança e moldar regulações a seu favor.
Repercussão política e internacional
O debate atravessou fronteiras e polarizou reações. Nos Estados Unidos, o presidente Donald Trump minimizou as advertências e criticou os que defendem desaceleração, dizendo neste domingo (13) que críticas sobre riscos exageram cenários e que quer manter a liderança norte-americana em IA. Ele afirmou que uma freada poderia beneficiar a China.
Do outro lado, a China reagiu ressaltando riscos à segurança nacional. O ministro da Segurança do Estado, Chen Yixin, escreveu que tecnologias generativas podem ser usadas por forças hostis para fabricar rumores políticos e desestabilizar a ordem social.
Na União Europeia, o porta‑voz da Comissão Europeia, Thomas Regnier, disse que o bloco apoia a inovação em IA, mas exige que empresas demonstrem segurança de seus serviços. No Reino Unido, o primeiro‑ministro Andy Burnham considerou positivo o debate público entre as principais empresas e defendeu que decisões sejam guiadas por evidências.
Amodei também sugeriu medidas de política externa, aconselhando uma coordenação entre empresas de democracias e defendendo restrições a vendas de chips potentes e equipamentos de fabricação de semicondutores para a China, como forma de aumentar a negociação futura entre potências.
Contexto recente que alimentou o receio
- Uma sequência de incidentes nas últimas semanas, incluindo relatos de ataques envolvendo IA e falhas de segurança em produtos, suscitou novas perguntas sobre controles internos.
- Na semana anterior, um pesquisador que havia saído da OpenAI para a Anthropic deixou a indústria e acusou as empresas de “brincar com as nossas vidas”, comentário que reforçou o tom de urgência nas discussões públicas.
Entre as propostas em debate estão requisitos mais rígidos de auditoria externa, maior transparência sobre processos de treino e acesso controlado a modelos de maior capacidade. Defensores da desaceleração argumentam que essas medidas dão tempo para criar estruturas de governança eficazes; críticos afirmam que freios prematuros podem atrasar benefícios e entregar vantagem competitiva a rivais estrangeiros.
O resultado das conversas entre empresas, reguladores e governos nos próximos meses deverá influenciar tanto a velocidade de desenvolvimento de novas gerações de IA quanto o desenho das regras que vão governar seu uso comercial e militar.
Leia também: Sony confirma que PS6 não tem data de lançamento definida e alerta para incertezas na cadeia de componentes
Mais sobre este assunto
Estudo publicado na Science revela que inteligência artificial da Microsoft acerta mais diagnósticos médicos do que clínicos gerais
Donos de Galaxy S24, S25 e S26 relatam bateria viciada e descarga rápida após nova atualização da One UI da Samsung sem posicionamento oficial