Anthropic lança sua IA mais potente, com restrições por cibersegurança e riscos biológicos / foto: SEBASTIEN BOZON - AFP/Arquivos
Anthropic lança sua IA mais potente, com restrições por cibersegurança e riscos biológicos
A empresa americana Anthropic, desenvolvedora dos modelos de inteligência artificial (IA) Claude, pôs à disposição do grande público, nesta terça-feira (9), a versão mais potente de sua tecnologia, embora limitada em áreas sensíveis como a cibersegurança e os riscos de ataque biológico.
Batizado de Fable 5, este modelo é o primeiro aberto ao público da classe Mythos, a gama mais avançada da Anthropic, apresentada em abril, mas restrita por motivos de segurança.
Paralelamente, a Anthropic oferece uma versão sem limitações, o Claude Mythos 5, para empresas, organizações e agências estatais que já dispõem de acesso a esta família de modelos, apresentada como capaz de detectar e explorar falhas de segurança com uma velocidade e precisão inéditas.
No começo de abril, a Anthropic tinha anunciado simultaneamente a existência do Mythos e sua decisão de limitar o acesso a parceiros de confiança para reforçar sua proteção a ciberataques.
A notícia lhe rendeu acusações de promover um "marketing do medo" e provocou, ao mesmo tempo, uma agitação entre países e instituições mundiais para avaliar o nível de ameaça para infraestruturas essenciais (bancárias, energéticas e outras).
Desde então, várias empesas que tiveram acesso ao Mythos confirmaram suas capacidades, e o governo americano, apesar de estar em litígio com a Anthropic, acabou por testá-lo.
A Casa Branca instaurou, a partir daí, um dispositivo de avaliação opcional para modelos de IA americanos mais potentes antes de sua comercialização. A OpenAI, concorrente da Anthropic, está prestes a apresentar a versão 5.6 de seu ChatGPT.
- Ataques biológicos? -
Até agora, a Anthropic justificava restringir o acesso ao Mythos exclusivamente pelos riscos de cibersegurança.
Com o Fable 5, a Anthropic amplia, portanto, a vigilância e o controle aos riscos de ataques biológicos, sem detalhar as ameaças específicas que busca evitar (design de armas químicas, bacteriológicas, entre outras).
Segundo a empresa, a maioria das solicitações relacionadas à cibersegurança ou à biologia recebem uma resposta do modelo inferior, Opus 4.8, disponibilizado ao público no fim de maio.
A Anthropic apresenta o Fable 5 como a versão segura deste modelo que, sem salvaguardas, não poderia ser aberto ao público.
Este marco se baseia em filtros automáticos que analisam as solicitações em tempo real e bloqueiam as que tratam de temas sensíveis.
A Anthropic diz ter pedido a especialistas externos que tentem superá-los - uma abordagem de simulação de ataques ou "red teaming" - com remunerações para premiar quem conseguir explorar suas falhas.
Segundo a empresa, nenhum, em 1.000 horas de testes, conseguiu um "desvio universal", ou seja, desbloquear o modelo por completo.
A Anthropic não detalhou, no entanto, se foram identificados desvios pontuais.
- Tarifa elevada -
A questão da segurança, que a Anthropic transformou em um de seus principais argumentos comerciais, levou a start-up de San Francisco a uma queda de braço inédita com o governo Trump por sua negativa a suspender suas restrições sobre a vigilância em massa e as armas letais autônomas.
Por causa desta situação, o Pentágono rescindiu seus contratos com a empresa, cujos instrumentos de IA eram os únicos autorizados para informação sigilosa.
O lançamento do Fable 5 é acompanhado de uma tarifa elevada, de até 50 dólares (R$ 258) por milhão de "tokens" - a unidade de medida que utiliza -, o dobro do custo do Opus 4.8.
Uma sessão intensa de programação pode consumir um milhão de tokens em poucas horas ou inclusive menos tempo.
A Anthropic revisou recentemente suas tarifas para levar em conta o desenvolvimento de agentes de IA, que frequentemente multiplicam o consumo de "tokens".
Mas ainda deve demonstrar sua rentabilidade no longo prazo, lastreada pelo alto custo da potência de cálculo necessária para a IA.
A Anthropic acaba de fechar um acordo com Elon Musk para utilizar um de seus centros de dados por 1,25 bilhão de dólares (R$ 6,46 bilhões) ao mês.
Estes lançamentos ocorrem em plena efervescência financeira em torno da IA.
A Anthropic e sua concorrente, a OpenAI, anunciaram este mês que apresentaram planos de oferta iniciais (IPO) para entrar na bolsa, enquanto se espera que a SpaceX, a gigante espacial de Musk, bata um recorde quando estrear no mercado na próxima sexta-feira. No começo do ano, a SpaceX comprou a xAI, start-up de IA do bilionário sul-africano.
F.Schneider--NZN
