Zürcher Nachrichten - Pontos-chave do código de boas práticas assinado pelas gigantes americanas da IA

Seus principais elementos são:

- Acordo voluntário

Relutante em pressionar por restrições ao setor da IA tanto em nível nacional quanto internacional, o presidente americano, Donald Trump, apresentou uma carta de princípios muito breve, de apenas uma página, cuja adesão é "moralmente vinculativa".

"No entanto, com o tempo, pode ser adequado codificar essas medidas na forma de leis ou regulamentos", afirma o documento, assinado por figuras proeminentes do setor de IA, de Elon Musk (X) a Dario Amodei (Anthropic), e incluindo Sundar Pichai (Google) e Jensen Huang (Nvidia).

Isso ocorre em um momento de crescentes apelos por regulamentações vinculativas, vindos de empresas como Anthropic (Claude) e OpenAI (ChatGPT), assim como de responsáveis políticos, particularmente do Partido Democrata nos Estados Unidos, e governos ao redor do mundo.

- Riscos

Os fornecedores de modelos de IA se comprometeram a estabelecer "quatro níveis" de supervisão.

O primeiro nível envolve a implementação de controles internos robustos para garantir que essas ferramentas sigam as instruções dos desenvolvedores, principalmente em relação à segurança cibernética e à biossegurança.

O objetivo é prevenir a introdução, disseminação e liberação de patógenos ou "riscos químicos".

As empresas deverão criar equipes especializadas responsáveis por esses controles e por verificar se os modelos não lançam ataques cibernéticos ou obtêm acesso não autorizado a sistemas técnicos.

OpenAI, Anthropic e Google relataram recentemente diversos incidentes envolvendo comportamentos inesperados de seus sistemas de IA. Por exemplo, os agentes de IA da OpenAI, programas capazes de ações autônomas, acessaram recentemente o site de um sistema de saúde australiano e plataformas do governo dos EUA por iniciativa própria.

- Auditoria

O código de boas práticas também prevê a participação de avaliadores externos para realizar auditorias independentes com o objetivo de determinar se as medidas implementadas pelas empresas são eficazes.

Anthropic e OpenAI já colaboram com esse tipo de avaliador externo e ambas anunciaram, nas últimas semanas, uma ampliação do acesso para que empresas de auditoria examinem seus modelos, principalmente durante a fase de projeto e não apenas antes da implementação.

A Anthropic afirmou ainda que não exercerá "nenhum controle editorial" sobre a publicação dos resultados dessas avaliações independentes, mesmo que sejam desfavoráveis à empresa.

- Normas definidas

A carta também prevê a criação de um comitê independente composto por representantes das diversas empresas nos mais altos níveis de gestão.

Este órgão será responsável por revisar avaliações internas e externas de modelos de IA e garantir a resolução de quaisquer problemas potenciais.

As empresas também se comprometeram a se reunir "regularmente para estabelecer normas e boas práticas".

A iniciativa parece estar alinhada com o projeto que OpenAI, Anthropic e Google DeepMind começaram a desenvolver anteriormente.

Em meados de setembro, essas três empresas indicaram que estavam trabalhando na criação de um órgão supervisor para riscos relacionados à IA, inspirado na Autoridade Reguladora da Indústria Financeira dos EUA (FINRA), um órgão autorregulador do setor financeiro.

No entanto, esse modelo já atraiu fortes críticas de empresas concorrentes do setor, como a francesa Mistral e a canadense Cohere, que acusam as gigantes da tecnologia americanas de quererem definir suas próprias regras e, assim, proteger sua vantagem competitiva.

A.Ferraro--NZN