A tentativa da Califórnia de regulamentar a inteligência artificial (IA) dividiu o Vale do Silício, com opositores alertando que o marco legal poderá prejudicar a concorrência e a posição dos Estados Unidos de líder mundial em tecnologia.
Após travar uma baralha feroz para apresentar emendas ou enfraquecer o projeto de lei enquanto ele tramitava pela câmara legislativa da Califórnia, executivos de empresas como OpenAI e Meta aguardam ansiosamente para ver se Gavin Newsom, o governador democrata do estado, o sancionará. Ele tem até 30 de setembro para decidir.
A Califórnia é o centro da crescente indústria da IA e com a ausência de uma lei federal para regulamentar a tecnologia nos EUA – quanto mais um padrão global uniforme – as implicações irão muito além do estado.
“O resto do mundo certamente está agora muito atento ao que está acontecendo na Califórnia e nos EUA de forma mais ampla, e o resultado lá deverá ter repercussões nos esforços regulatórios de outras nações”, disse ao “Financial Times” Yoshua Bengio, professor da Universidade de Montreal e um “padrinho” da IA.
Por que a Califórnia quer regulamentar a IA? O desenvolvimento acelerado de ferramentas de IA capazes de gerar respostas semelhantes às humanas para perguntas, ampliou os riscos percebidos em torno da tecnologia, que vão de disputas legais, como violações de direitos autorais, à desinformação e a proliferação de “deepfakes”. Alguns até acham que ela pode representar uma ameaça à humanidade.
O presidente dos EUA, Joe Biden, emitiu uma ordem executiva no ano passado com o objetivo de definir padrões nacionais de segurança para a IA, mas o Congresso americano não avançou na aprovação de leis nacionais.
A liberal Califórnia muitas vezes tomou a dianteira na regulamentação de questões em que o governo federal ficou para trás. Agora, a IA está no centro das atenções com a Lei de Inovação Segura para Sistemas Pioneiros de Inteligência Artificial, proposta pelo senador do estado, Scott Wiener. Entre os vários projetos de lei apresentados em diferentes estados, o da Califórnia é o mais provável de ter um impacto real, uma vez que ele é o estado que se encontra no centro da explosão da IA e abriga grandes empresas como OpenAI, Anthropic, Meta e Google.
“As grandes empresas de IA, que têm sido as mais enfáticas nessa questão, estão no momento presas a uma corrida por participação de mercado e maximização dos lucros, o que poderá levar a negligências quando se trata de segurança, e é por isso que precisamos de algumas regras para aqueles que estão na liderança dessa corrida”, diz Bengio.
Wiener disse que seu projeto de lei “exige apenas que os maiores desenvolvedores de IA façam o que cada um deles repetidamente se comprometeu em fazer: realizar testes básicos de segurança em modelos de IA muito poderosos”.
O projeto de lei exigirá que os desenvolvedores que construírem grandes modelos avaliem se eles serão “razoavelmente capazes de causar ou materialmente permitir danos críticos” que vão do uso malicioso ou roubo, à criação de uma arma biológica. Espera-se, então, que as empresas adotem salvaguardas razoáveis contra esses riscos identificados.
Os desenvolvedores terão que construir um “interruptor de segurança” em quaisquer novos modelos acima de um certo tamanho, caso eles sejam mal utilizados ou se tornem desonestos. Eles também serão obrigados a redigir um relatório de segurança antes de treinar um novo modelo e serem mais transparentes – eles terão que relatar “cada incidente de segurança de inteligência artificial” ao procurador-geral do estado e realizar todos os anos uma auditoria independente para garantir a conformidade.
O projeto de lei é voltado para os modelos que custam mais de US$ 100 milhões para treinar, aproximadamente o valor necessário para treinar os principais modelos hoje. Mas essa é uma meta em movimento rápido: o presidente-executivo da Anthropic, Dario Amodei, previu que o próximo grupo de modelos de ponta custará US$ 1 bilhão para treinar, valor que poderá chegar a US$ 10 bilhões em 2026.
O projeto de lei se aplicará a todas as empresas que fazem negócios na Califórnia, independentemente de onde elas estão baseadas, o que efetivamente cobrirá todas as empresas atualmente capazes de desenvolver modelos de IA, segundo Bengio.
Ele introduzirá penalidades civis de até 10% do custo de treinamento de um modelo contra desenvolvedores cujas ferramentas causarem mortes, roubos ou danos à propriedade. Ele também criará responsabilidades para empresas que oferecem recursos de computação para treinar esses modelos e para as firmas de auditoria, tornando-as responsáveis por coletar a reter informações detalhadas sobre as identidades e intenções dos clientes. Não fazer isso poderá resultar em multas de até US$ 10 milhões.
Wiener e seus colegas afirmam que há um forte apoio público a novas regulamentações da IA. Ele também obteve o apoio qualificado da startup de IA Anthropic e de Elon Musk, bem como do sindicato de atores SAG-AFTRA e de dois grupos de defesa dos direitos das mulheres. Na segunda-feira, 100 funcionários de grandes empresas de IA como OpenAI, xAI e Google DeepMind assinaram uma carta pedindo a Newsom que sancione o projeto de lei. “É viável e apropriado que companhias de IA de ponta testem se os modelos de IA mais poderosos podem causar danos severos, e que essas empresas implementem proteções razoáveis contra esses riscos”, escreveram eles.
Os críticos – que incluem acadêmicos como a professora de IA na Universidade Stanford Fei-Fei Li, a firma de venture capital Andreessen Horowitz e a aceleradora de startups Y Combinator – afirmam que o projeto de lei prejudicará empresas em estágio inicial e desenvolvedores de códigos abertos que compartilham publicamente o código subjacente aos seus modelos.
O projeto de lei SB 1047 “desacelerará o ritmo de inovação e levará engenheiros e empreendedores de classe mundial da Califórnia a deixar o estado em busca de maiores oportunidades em outros lugares”, alertou o diretor de estratégia da OpenAI, Jason Kwon, em uma carta a Wieger no mês passado. Ele reiterou uma das queixas mais comuns: a de que Wiener está se intrometendo em uma área que deveria ser tratada em âmbito federal.
Os oponentes também afirmam que ele sufocará a inovação ao acumular requisitos onerosos sobre os desenvolvedores e torná-los responsáveis pelo uso de seus modelos de IA por maus usuários. Ele legisla sobre riscos que ainda não existem, acrescentam eles.
“Filosoficamente, antecipar as consequências de como as pessoas vão usar seu código em software é um problema muito difícil. Como as pessoas vão usá-lo, como você vai antecipar que alguém causará danos? Isso é um grande inibidor. É uma ladeira muito escorregadia”, diz Dario Gil, diretor de pesquisas da IBM.
Dan Hendrycks, diretor do Center for AI Safety (Cais), que desempenhou um papel fundamental na formulação do projeto de lei, diz que os oponentes “querem que os governos deem a eles um cheque em branco para construir e empregar quaisquer tecnologias que eles queiram, independentemente dos riscos ou danos para a sociedade”.
Hendrycks, que também é consultor da xAI de Musk, está sendo alvo de críticos que classificam o Cais como uma organização radical excessivamente preocupada com os riscos existenciais associados à IA. Os oponentes também expressaram preocupações de que o Cai tenha feito lobby para obter influência sobre um “Conselho de Modelos Pioneiros” que o projeto de lei criará, composto por nove diretores do setor e da academia, e encarregado de atualizar as regulamentações em torno dos modelos de IA e garantir a conformidade.
Wiener rejeitou esses argumentos, classificando-os de uma “teoria da conspiração”. “A oposição tentou pintar qualquer um que apoiasse o projeto de lei como ‘catastrófico’”, disse Wiener. “Eles disseram que esses eram riscos de ficção científica; que estávamos pensando demais no [filme] ‘O Exterminador do Futuro’. Não estamos. Estamos preocupados com riscos muito reais, como o desligamento da rede elétrica ou do sistema bancário, ou a criação de uma arma química ou biológica.”
Wiener disse que ele e sua equipe passaram os últimos 18 meses se envolvendo “com qualquer que estivesse disposto a se reunir conosco” para discutir o projeto, incluindo Li e sócios da Andreessen e da Y Combinator.
Uma das preocupações deles era que a exigência de um mecanismo de desligamento (“kill switch”) para modelos de código aberto impediria outros desenvolvedores de modificar ou construir sobre esses modelos, por medo de que eles fossem desligados a qualquer momento. Isso poderia ser fatal para empresas jovens e para a academia, que dependem de modelos de código aberto mais baratos ou gratuitos.
O projeto de lei de Wiener foi alterado para excluir os modelos de fonte aberta que foram ajustados além de um certo nível por terceiros. Eles também não precisarão ter um “kill switch”.
Algumas das restrições originais do projeto de lei também foram moderadas, incluindo a redução do escopo para penalidades civis e a limitação do número de modelos abrangidos pelas novas regras.
O SB 1047 foi aprovado com facilidade no legislativo do estado. Agora, o governador Newsom precisa decidir se sanciona o projeto, permite que ele se transforme em lei sem a sua assinatura ou o veta. Se ele vetar, a legislatura da Califórnia poderá anular isso com uma votação de maioria de dois terços. Mas, segundo um porta-voz da Wiener, não há praticamente nenhuma chance de isso acontecer. A última vez que o veto de um governador da Califórnia foi derrubado foi em 1980.
O governador está em uma situação difícil, dada a importância do setor de tecnologia para o seu Estado. Mas permitir que a IA cresça sem controle pode ser ainda mais problemático.
“Eu adoraria que isso fosse uma legislação federal: se o Congresso agisse nesse espaço e aprovasse um forte projeto de lei de segurança de IA, eu ficaria feliz em fazer as malas e ir para casa”, disse Wiener. “Mas a triste realidade é que embora o Congresso esteja sendo bem-sucedido em questões de saúde, infraestrutura e clima, ele realmente teve problemas com a regulamentação tecnológica. Enquanto o Congresso não agir, a Califórnia tem a obrigação de liderar porque somos o coração do setor de tecnologia.”
(Tradução de Mario Zamarian)
Fonte: Valor Econômico
