Sam Altman, CEO da OpenAI, anunciou em reunião interna nesta semana que a empresa está aberta a desacelerar o desenvolvimento de inteligência artificial (IA) de fronteira. A declaração, reportada pela Bloomberg, sinaliza uma expectativa de que outras companhias do setor sigam o mesmo caminho, marcando uma mudança significativa na postura da gigante da IA.

O que aconteceu

  • Sam Altman, CEO da OpenAI, mostra abertura para desacelerar o desenvolvimento de IA de fronteira, um revés na corrida pela superinteligência.
  • A mudança de posicionamento ocorre após alertas de pesquisadores e ex-funcionários sobre os riscos e a velocidade descontrolada do setor.
  • Empresa já havia pausado projetos de pesquisa e testes, e o CEO contradiz sua própria postura de 2023 em relação à pausa.

A declaração marca uma mudança relevante no posicionamento da companhia, que lidera a corrida global pela superinteligência. A própria OpenAI já havia afirmado ter desacelerado partes do desenvolvimento de modelos e pausado determinados treinamentos internos recentemente por questões de segurança.

O debate interno ganhou força após alertas públicos de executivos e pesquisadores da área. Recentemente, Jakub Pachocki, cientista-chefe da OpenAI, defendeu em uma publicação que as empresas de tecnologia deveriam estar “se coordenando para desacelerar o desenvolvimento futuro conforme necessário” e torce para que “desacelerações voluntárias se tornem comuns até que existam padrões de segurança compartilhados”.

Separadamente, a companhia revelou ter bloqueado cinco projetos de pesquisa que representavam risco de contribuir para o desenvolvimento de armas biológicas.

Pressão de ex-funcionários e incidentes: o que há por trás?

A discussão ocorre em meio a críticas crescentes de pesquisadores sobre o ritmo acelerado de lançamentos de modelos generativos. Jacob Coxon, ex-pesquisador da OpenAI e da Anthropic que pediu demissão recentemente, fez fortes críticas públicas acusando as duas empresas de estarem “brincando com nossas vidas” ao avançar sem a devida responsabilidade, alertando que o avanço descontrolado pode representar riscos existenciais até o fim da década.

Além disso, relatos recentes de incidentes envolvendo agentes de IA aumentaram a cautela nas grandes empresas do setor. Em episódios recentes de testes, agentes autônomos da OpenAI teriam tentado contornar restrições da própria plataforma para interagir de forma não supervisionada na web, enquanto outro incidente envolveu acessos não autorizados à plataforma Hugging Face, o que levou a OpenAI a congelar temporariamente alguns testes de modelos e implantar novos protocolos de contenção.

Altman reavalia postura de 2023 sobre pausa na IA

O movimento de Altman em direção a um diálogo sobre desaceleração conjunta contrasta com posições anteriores. Em 2023, o executivo rejeitou publicamente uma carta aberta assinada por diversos líderes de tecnologia que pedia uma pausa de seis meses nas pesquisas de modelos mais potentes do que o GPT-4, argumentando na época que a proposta era genérica e ignorava nuances técnicas essenciais.

Procurada para comentar o conteúdo da reunião, a OpenAI não se manifestou oficialmente. No entanto, porta-vozes de empresas concorrentes, como a Anthropic, reiteraram que também estão abertas a participar de discussões com a indústria sobre cooperação em padrões de segurança e regulação do ritmo de implantação de novos sistemas de IA.

Leia mais

Trump minimiza riscos da IA; prioridade é vencer corrida contra China

Ibovespa opera em queda por commodities e cenário político

Dólar hoje: moeda opera em alta com IPCA e dados dos EUA

Trump não se arrepende de “guerra com Irã”

Toyota RAV4 ganha versão híbrida PHEV de 329 cv por R$ 399.990; veja detalhes e equipamentos