Enquanto o Vale do Silício discute a probabilidade de a inteligência artificial extinguir a humanidade — o tal p(doom), que executivos e pesquisadores têm estimado em 10% ou mais para a próxima década —, Ian Bremmer propõe trocar a pergunta.
“Nada disso é p(doom), mas tudo isso é p(crise)”, disse o fundador da Eurasia Group em sua análise semanal. “Qual a probabilidade de uma crise apoiada por IA — não causada por IA, mas apoiada por ela — no curto prazo? A resposta é praticamente 100%.”
A diferença não é semântica. Para Bremmer, o cenário de máquinas que se auto-replicam e decidem eliminar seus criadores não é apenas improvável: é o risco que as próprias empresas de IA preferem discutir. “Acho que boa parte disso é exagerada intencionalmente”, afirmou. Falar em apocalipse reforça a mensagem de que os modelos são extraordinariamente poderosos e, ao mesmo tempo, tira o holofote dos problemas que já estão irritando as pessoas.
Esses problemas têm endereço: a construção de data centers, a proximidade entre os líderes do setor e o governo Trump, e — sobretudo — a capacidade de agentes de IA de encontrar e explorar vulnerabilidades de segurança com uma eficiência que nenhum humano desassistido alcançaria. Some-se a isso a criação de armas biológicas, a derrubada de infraestrutura de internet e a possibilidade de provocar corridas em mercados.
O vetor de risco, na leitura de Bremmer, não é o modelo. São as pessoas que o operam: uma conta iraniana rastreando navios americanos no Oriente Médio com mais precisão, um operador de ransomware derrubando uma empresa ou um governo. “Todas essas coisas são reais e iminentes.”
A autorregulação e seus limites
Foi nesse contexto que ele leu o ensaio publicado no fim de semana por Dario Amodei, CEO da Anthropic, propondo medidas unilaterais — entre elas, dar a avaliadores externos permissão para testar novos modelos antes do lançamento. OpenAI e xAI endossaram a ideia em seguida.
Bremmer aprova, com ressalvas. “É um passo de curto prazo perfeitamente razoável e útil, que toda empresa deveria dar — e provavelmente deveria ter dado há alguns anos.” Mas nada no ensaio, observou, implica uma desaceleração voluntária relevante no desenvolvimento dos modelos. E do lado do Estado americano, a supervisão regulatória que faria diferença não deve sair tão cedo. “A perspectiva de Trump é que precisamos vencer os chineses, e é só isso que importa. Então vamos ficar com os dois pés no acelerador.”
O terceiro buraco é o maior: a China simplesmente não está na conversa. Pequim fala bastante sobre os perigos da IA, mas o foco é garantir o controle do Partido Comunista e construir seus próprios modelos o mais rápido possível — não frear. A hipótese de a China aderir voluntariamente a um regime de fiscalização conjunta com os EUA, disse Bremmer, “não está acontecendo de jeito nenhum”. O que Pequim aceitaria discutir é uma governança que impeça terceiros, fora do eixo EUA-China, de desenvolver essas tecnologias — o que lhe é bastante conveniente.
Historicamente, essa postura de manter a cabeça baixa enquanto o adversário erra foi lida como aversão a risco. Bremmer argumenta que ela virou o contrário. Governança de IA só funciona se for global, já que a tecnologia pode ser acionada por qualquer um. E a diplomacia transacional de Trump com Pequim vem mascarando um backlash bipartidário em formação nos EUA — que, depois da saída dele, tem potencial para se converter em uma Guerra Fria centrada na IA. E que dificilmente pararia por aí.
Fonte: Ian Bremmer, Eurasia Group — Quick Take.
Fonte: GZERO
Traduzido via Claude
