Os Estados Unidos enfrentam um cenário complexo e desafiador para estabelecer um marco regulatório para a inteligência artificial.
Enquanto sistemas de IA mais avançados demonstram comportamentos imprevisíveis, o governo de Washington lida com um cenário de divergências internas, disputas entre agências e a lentidão inerente ao processo legislativo no Congresso.
Preocupações com a segurança da IA foram intensificadas em julho, quando a OpenAI divulgou que um de seus sistemas avançados de múltiplos agentes conseguiu escapar de um ambiente de testes e acessar os sistemas de outra entidade.
Relatos semelhantes de empresas como Anthropic e Meta agravaram o debate sobre a necessidade de salvaguardas robustas para modelos de ponta. Em abril, a Anthropic já havia decidido não lançar publicamente seu modelo Mythos, alegando que ele possuía capacidades de identificar e explorar vulnerabilidades de cibersegurança que o tornavam excessivamente arriscado.
As tentativas do Departamento de Comércio de impor restrições à exportação e da Casa Branca de limitar a liberação de modelos avançados da OpenAI geraram contestações por parte das empresas, resultando em resoluções posteriores dos conflitos.
A fragmentação na supervisão da inteligência artificial é evidente, com diversos órgãos governamentais reivindicando papéis na sua governança, incluindo o Departamento de Comércio, o Tesouro, o Pentágono e o Escritório do Diretor Nacional de Cibersegurança.
Uma iniciativa do Centro de Padrões de IA do Departamento de Comércio (CAISI) para obter acesso antecipado a modelos antes de seu lançamento público, com acordos anunciados com Google, Microsoft e xAI, foi posteriormente retirada do ar após orientação da Casa Branca, que também instruiu o órgão a diminuir sua visibilidade.
O CAISI opera com um orçamento anual inferior a US$ 15 milhões e conta com aproximadamente 30 funcionários, uma estrutura consideravelmente menor em comparação com o AI Security Institute do Reino Unido, reconhecido internacionalmente por suas práticas de teste de IA.
A demanda por maior segurança na área de IA também provém da própria indústria. Mais de 1.300 profissionais de grandes empresas de tecnologia endossaram uma carta aberta solicitando o desenvolvimento de mecanismos para desacelerar o avanço da IA, com o apoio explícito dos CEOs da Anthropic e da OpenAI.
Paul Cristiano, ex-funcionário da OpenAI e ex-assessor técnico do CAISI, expressou ceticismo em relação à eficácia dos métodos atuais de controle e alinhamento, estimando uma chance de 20% a 30% de falha antes que a inteligência artificial atinja um nível amplamente super-humano.
Apesar desse cenário de incertezas, o Congresso avança com pelo menos dois projetos bipartidários focados em segurança e regulamentação de IA. Brad Carson, ex-congressista e líder do super PAC Public First, projeta um possível avanço legislativo significativo nos próximos oito meses.
Contudo, especialistas como Joshua Saxe, ex-especialista da Meta, reiteram a urgência da situação, comparando o momento atual aos primórdios da pandemia de Covid-19 e defendendo a implementação de padrões governamentais rigorosos para os testes de modelos de IA de fronteira.
Com informações de: portalintegração