DUAS COISAS deveriam fazer você considerar o que a inteligência artificial pode significar para a humanidade. Uma é que aqueles que trabalham com a tecnologia estão alertando que ela pode levar a uma catástrofe — até mesmo à extinção humana. A outra é como a inovação tecnológica vem agravando a destruição da Ucrânia. Essas duas coisas oferecem lições conflitantes sobre se o rápido avanço da IA pode ou deve ser desacelerado.
Durante anos, os principais líderes de IA sinalizaram que sua tecnologia poderia se tornar letal. Os bots podem se tornar inteligentes o bastante para superar seus criadores antes de estarem “alinhados” com os objetivos e a ética da humanidade. Pessoas mal-intencionadas poderiam usar a IA para causar estragos. Esses alertas se tornaram mais críveis à medida que agentes de IA escaparam de seus sandboxes [ambientes isolados de teste] durante testes, coordenaram-se uns com os outros e invadiram organizações, incluindo um próprio laboratório de IA. A Anthropic, uma das fabricantes de modelos, flagrou pessoas usando seus modelos para fins malignos, desde os serviços de inteligência do Mali obtendo a construção de um sistema de vigilância em massa até rebeldes houthis no Iêmen que se acredita estarem escrevendo software para mísseis balísticos.
Após a recente demissão de um pesquisador da Anthropic, o medo público de uma catástrofe provocada pela IA se espalhou. Em uma publicação vista mais de 170 milhões de vezes, ele afirmou que a empresa e a OpenAI estavam “apostando com nossas vidas”. A IA está rapidamente se tornando mais potente, para o bem e para o mal. Em maio, os mercados de previsão precificavam uma chance inferior a um terço de que a IA resolvesse qualquer um dos problemas matemáticos do Prêmio Millennium antes de 2030; em 8 de setembro, a OpenAI afirmou ter resolvido um deles, provocando angústia entre matemáticos. Em 12 de setembro, Sam Altman e Elon Musk, dois titãs da IA, endossaram um apelo de Dario Amodei, o chefe da Anthropic, para “ditar o ritmo da fronteira”, isto é, desacelerar o progresso da IA. Entre os favoráveis a uma desaceleração estão Bernie Sanders, senador de esquerda, e Steve Bannon, populista de direita.
Entre os opositores está o presidente Donald Trump, cujo governo teme mais do que tudo perder a liderança americana em IA para a China, sua única rival séria. Scott Bessent, secretário do Tesouro dos Estados Unidos, afirmou que, se a China obtiver a vantagem: “Nada mais importaria”.
Como evidência, Bessent poderia apontar para a Ucrânia, onde cada passo em uma corrida armamentista tecnológica tem efeito imediato. Como noticiamos, a Rússia vem empregando impiedosamente seus mais recentes drones kamikaze para bombardear infraestrutura civil. Além de mais rápidos, seus drones agora usam uns aos outros como uma rede de comunicações em “malha” (mesh) para retransmitir informações e comandos. Em breve, a Rússia terá sua própria versão da rede de satélites Starlink, de Musk, tornando seus ataques de longo alcance mais precisos.
É a mais recente demonstração de como até mesmo uma pequena vantagem tecnológica importa em tempos de guerra. A própria inovação ucraniana em drones de campo de batalha a ajudou a repelir ondas de ataques russos. A Ucrânia consegue atingir o interior profundo da Rússia com drones de longo alcance. Ambos os lados trabalham em enxames de drones que serão capazes de operar de forma mais autônoma, como um único sistema adaptativo.
A guerra mostra como a tecnologia se traduz em poder duro — e que a Rússia a utiliza sem qualquer consideração pelas velhas regras ou normas de combate. Mesmo que os Estados Unidos não temessem uma guerra quente semelhante com a China, uma liderança em IA daria a seu principal rival geopolítico domínio em invasões cibernéticas, espionagem e guerra híbrida. Essas não são capacidades que os Estados Unidos deveriam ceder a um Estado autoritário com interesse em sufocar ideias liberais.
Uma pausa, portanto, só poderia funcionar se a China também aderisse a ela. Trump planeja receber Xi Jinping, presidente da China, na Casa Branca em 24 de setembro. Mas, mesmo que Trump buscasse desacelerar, é improvável que Xi concordasse com o plano que Amodei imagina, porque isso congelaria a IA chinesa em segundo lugar. E nenhum dos lados poderia correr o risco de o outro violar o pacto avançando na disparada.
Para um acordo, cada lado precisaria verificar o cumprimento, como no controle de armamentos durante a Guerra Fria. Estados Unidos, Reino Unido e União Soviética baniram os testes nucleares atmosféricos em 1963 porque conseguiam detectá-los; os testes subterrâneos continuaram por mais três décadas, até que eles também pudessem ser monitorados. Infelizmente, embora os data centers sejam visíveis, não existe método verificável para ver dentro deles. Uma infraestrutura treinando uma superinteligência poderia se disfarçar de chatbots respondendo a consultas cotidianas.
As opções para um acordo sobre segurança em IA são, portanto, limitadas; mas existem. Mais transparência ajudaria. Ambos os lados deveriam se comprometer a divulgar e investigar incidentes de segurança em seus laboratórios, usando a legislação doméstica. Cada um poderia sinalizar que se importa com segurança para construir confiança, abrindo caminho para que o outro lado tome precauções. Deveriam também pressionar um ao outro para melhorar a cibersegurança dos laboratórios, de modo que agentes de IA não consigam escapar tão facilmente dos sandboxes — e para garantir que, se algum escapar, seu laboratório seja financeiramente responsabilizado.
O mais importante é o desafio de assegurar que a IA opere no interesse dos humanos. Estados Unidos e China têm valores muito diferentes, mas ambos sabem que estar à frente não adianta nada se isso extinguir a humanidade. Eles deveriam prometer compartilhar o trabalho nos elementos do alinhamento que não conferem vantagem competitiva. O conhecimento dos melhores métodos de avaliação e técnicas de contenção é um bem público global. Se um dos lados obtiver um avanço importante em segurança, acumulá-lo não faz sentido algum.
Catastrofismo eficaz
Alguns descartam a recente onda de catastrofismo como uma jogada de marketing das empresas de IA, ou mesmo como uma tentativa de suprimir a concorrência. Ainda assim, o progresso da IA é rápido o suficiente, os incidentes de segurança são assustadores o suficiente e os alertas das empresas são antigos o suficiente para serem levados a sério. A IA não precisa matar todos os humanos para provocar uma catástrofe. Um enxame de agentes da OpenAI teve como alvo uma empresa de tecnologia; e se, da próxima vez, atacar uma rede elétrica ou um sistema de armas? Ele poderia até ser inteligente o bastante para escapar de tentativas de desligá-lo.
O mundo precisa tentar urgentemente evitar esse risco. Ainda assim, as democracias também devem evitar perder o controle para regimes autoritários. São tarefas difíceis e conflitantes. Elas poderiam, em última instância, levar a uma guerra. As apostas dificilmente poderiam ser maiores. ■
Fonte: The Economist
Traduzido via Claude
