Ex-integrante da área de segurança da OpenAI critica a falta de cautela e o desenvolvimento acelerado
A corrida tecnológica pelo domínio da inteligência artificial ganhou novos contornos após declarações contundentes de profissionais que deixaram o setor. Conforme artigo publicado na revista americana The Atlantic, o avanço rápido das empresas gera riscos significativos e exige uma postura muito mais rigorosa dos desenvolvedores.
As críticas reacendem um debate urgente sobre os limites da inovação e a necessidade de proteção da sociedade diante de modelos cada vez mais complexos. Especialistas apontam que a velocidade atual compromete a capacidade de controle sobre as novas tecnologias.
A discussão ganha força com relatos de bastidores que expõem a prioridade dada aos lançamentos comerciais em detrimento da segurança a longo prazo, conforme informação divulgada pela imprensa internacional.
O fim do tempo de tentativa e erro na inteligência artificial
David Robinson trabalhou por três anos e meio na OpenAI, onde ajudou a elaborar a estrutura usada pela empresa para lidar com riscos e supervisionou relatórios de segurança de doze lançamentos de modelos avançados. Segundo ele, a cultura de desenvolvimento acelerado aumenta o risco de falhas imprevisíveis.
No artigo publicado na revista The Atlantic, Robinson afirmou que as empresas de inteligência artificial, incluindo a OpenAI, não estão sendo nem de perto cuidadosas o suficiente. Para ele, as companhias deveriam dar mais espaço a especialistas em segurança e à pesquisa antes de desenvolver sistemas mais avançados.
O tempo de tentativa e erro acabou, escreveu David Robinson, defendendo que sistemas avançados precisam de medidas de segurança semelhantes às adotadas em setores como energia nuclear e aviação, garantindo padrões rígidos de controle e prevenção de acidentes catastróficos.
Críticas à implantação iterativa e à falta de alinhamento
O ex-funcionário também criticou uma prática que a OpenAI chama de implantação iterativa, que consiste em lançar sistemas e reforçar as medidas de segurança à medida que os problemas aparecem no uso real.
As capacidades da inteligência artificial estão avançando mais rapidamente do que o conhecimento dos pesquisadores sobre o chamado alinhamento, área dedicada a fazer com que os sistemas atuem de acordo com objetivos e valores humanos.
Em resposta às acusações, um porta-voz da OpenAI afirmou que a empresa busca evitar que seus modelos se tornem mais avançados do que a companhia consegue administrar com segurança, destacando que pausam o treinamento quando necessário.
Acusações de brincar com as vidas humanas
As críticas se somam a outros alertas recentes feitos por profissionais que abandonaram o setor de inteligência artificial. Jacob Coxon, um britânico de vinte e sete anos, trabalhou com pré-treinamento na OpenAI e na Anthropic antes de deixar a indústria.
Nenhuma das empresas está agindo de forma responsável, escreveu Coxon na rede social X, acusando as organizações de correrem diretamente em direção a uma superinteligência e de estarem apostando com nossas vidas.
O cenário atual evidencia um racha interno no Vale do Silício, onde cientistas e pesquisadores cobram regulamentações mais duras e transparência total para evitar consequências irreversíveis para a humanidade.
