OpenAI pede liderança dos EUA em padrões globais para controlar riscos de IAs avançadas

A OpenAI apresentou nesta segunda-feira uma proposta ambiciosa enquanto líderes mundiais se reuniam para a Assembleia Geral das Nações Unidas: os Estados Unidos devem liderar um esforço internacional para estabelecer padrões técnicos globais que controlem os riscos de sistemas de inteligência artificial de fronteira. A iniciativa chega em um momento de intenso debate sobre como acompanhar o avanço acelerado de tecnologias cada vez mais capazes, e coloca no centro da discussão um fenômeno que a empresa considera crucial: o aprimoramento recursivo.

O aprimoramento recursivo, ou RSI, é o processo pelo qual sistemas de IA começam a realizar tarefas relacionadas ao desenvolvimento de novas gerações de IA. Conforme esses sistemas assumem mais responsabilidades no ciclo de desenvolvimento, poderiam potencialmente acelerar o ritmo de inovação de forma exponencial. A OpenAI reconhece que pesquisas automatizadas podem envolver diferentes níveis de supervisão humana, e alerta para um cenário preocupante: sem controle adequado, humanos poderiam perder a capacidade prática de compreender e orientar os próprios processos de pesquisa conduzidos pelas máquinas. A empresa deixa claro, porém, que o RSI totalmente autônomo não está acontecendo agora e não deveria ser perseguido enquanto não for possível realizá-lo com segurança.

A proposta da OpenAI identifica três desafios que justificam uma coordenação internacional. Primeiro, a fragmentação: diferentes países podem adotar avaliações, exigências de comunicação e definições de incidentes incompatíveis entre si. Segundo, a ação coletiva: países agindo isoladamente podem produzir resultados que nenhum deles desejaria, especialmente diante da possibilidade de aceleração da pesquisa por sistemas de IA. Terceiro, a capacidade desigual: conhecimentos e atividades relacionados ao desenvolvimento de IA de fronteira estão distribuídos de maneira desigual entre as nações. A empresa defende que laboratórios que desenvolvem pesquisa automatizada sejam responsáveis por fazê-lo com segurança, respeitando princípios de responsabilidade própria e as leis existentes.

Para operacionalizar essa visão, a OpenAI sugere aproveitar a rede de institutos nacionais de segurança em IA já criada em dez países: Austrália, Canadá, Alemanha, França, Quênia, Japão, Coreia do Sul, Singapura, Índia e Reino Unido. Essas instituições trabalhariam com o Center for AI Standards and Innovation (CAISI) e organismos nacionais do setor para definir padrões focados em modelos de IA de fronteira e no gerenciamento de benefícios e riscos associados à pesquisa automatizada. Os padrões funcionariam como uma base técnica comum para medir capacidades, analisar riscos e verificar a suficiência de mecanismos de proteção. Importante: a OpenAI esclarece que esses padrões não seriam licenças, revisões obrigatórias antes do lançamento ou requisitos de aprovação para modelos de IA. Caberia aos governos nacionais decidir se e como incorporá-los aos seus sistemas legais.

A segunda parte da proposta envolve métricas e protocolos comuns para comunicação de incidentes. A OpenAI sugere padrões para avaliar o avanço de sistemas de IA relacionado ao RSI, medir a quantidade de pesquisa autônoma realizada dentro de uma empresa, estabelecer regras para supervisão humana de pesquisas automatizadas, definir quais processos deveriam provocar revisão humana imediata, e classificar, acompanhar e comunicar incidentes relacionados a alinhamento e pesquisa automatizada. A empresa também defende que governos e operadores de infraestrutura crítica estabeleçam canais seguros de comunicação para compartilhar preocupações de segurança nacional, vulnerabilidades e ameaças emergentes. Cita especificamente o diálogo entre Estados Unidos e China como uma área em que essa comunicação poderia avançar.

A OpenAI argumenta que os Estados Unidos estão em posição única para liderar esse esforço. A indústria de IA americana está na fronteira tecnológica, e o país ocupa posição relevante em finanças, comércio, defesa, tecnologia e sistemas de informação. Assumir a liderança agora, na avaliação da empresa, ajudaria a definir a estrutura global de IA enquanto a ausência desse movimento poderia contribuir para um sistema fragmentado e desigual. A proposta também esclarece um ponto importante: quando a OpenAI fala em "pacing" — ajustar o ritmo do desenvolvimento —, não significa estabelecer uma velocidade predeterminada para o avanço da IA. Tecnicamente, o objetivo seria garantir que pesquisas de alinhamento e a aplicação dessas pesquisas permaneçam à frente das capacidades dos sistemas. A empresa enfatiza que o processo deveria consultar desenvolvedores de modelos abertos e fechados, especialistas técnicos independentes e universidades, com transparência e sem favorecer empresas, países ou modelos de negócio específicos.