Anthropic sugere pausa global no desenvolvimento da IA / foto: SEBASTIEN BOZON - AFP/Arquivos
Anthropic sugere pausa global no desenvolvimento da IA
A empresa de inteligência artificial (IA) Anthropic propôs nesta quinta-feira uma pausa global no desenvolvimento de sistemas de IA cada vez mais potentes, diante de sinais de que os modelos mais recentes poderiam escapar do controle humano.
Desenvolvedora dos modelos de IA do Claude, a empresa, sediada em San Francisco, destacou em um relatório que a desaceleração mundial no desenvolvimento da IA de ponta poderia ser "uma boa ideia", mas alertou que, se apenas uma empresa diminuir o ritmo, ela pode simplesmente ser ultrapassada pela concorrência.
"Acreditamos que seria bom para o mundo ter a opção de reduzir ou pausar temporariamente o desenvolvimento da IA, para permitir que as estruturas sociais e a pesquisa de alinhamento sigam o ritmo do avanço da tecnologia", manifestou a Anthropic.
Uma pausa real significaria grandes empresas de IA em vários países, principalmente China e Estados Unidos, concordando em parar ao mesmo tempo, sob regras que todos pudessem verificar, ressaltou a Anthropic. "Sem um mecanismo de coordenação global, empresas e governos terão que tomar decisões difíceis sobre segurança enquanto enfrentam pressões competitivas e geopolíticas."
A proposta enfrenta uma batalha difícil em Washington e no Vale do Silício. Funcionários americanos e executivos de grandes empresas de tecnologia argumentam que desacelerar o desenvolvimento da IA poderia dar à China uma vantagem significativa.
O presidente Donald Trump, no entanto, assinou nesta semana um decreto que permitirá ao governo fazer avaliações preliminares dos modelos de IA mais poderosos de empresas americanas antes do seu lançamento.
A Anthropic indicou que espera reunir nos próximos meses funcionários do governo, cientistas, grupos de defesa e empresas concorrentes para definir como esse sistema funcionaria.
O chamado à coordenação surge no momento em que dados internos mostram que a IA acelera de forma dramática seu próprio desenvolvimento, destacou a Anthropic. A empresa alertou que essa aceleração criaria um ciclo de retroalimentação que poderia levar ao que pesquisadores chamam de "melhora recursiva de si mesma", o que se refere à ideia de que um sistema de IA poderia ser capaz de ensinar a si próprio a se tornar mais inteligente.
A Anthropic negou que esse ponto seja inevitável, mas ressaltou que "as evidências sugerem que o papel humano está diminuindo em cada etapa do processo de desenvolvimento da IA".
O.Hofer--NZN
