Altas autoridades financeiras internacionais alertaram que os modelos mais recentes de IA de empresas de tecnologia dos EUA podem ameaçar o sistema bancário mundial ao expor fragilidades na defesa cibernética das instituições financeiras.
Enquanto ministros das Finanças, presidentes de bancos centrais e reguladores se reuniam nesta semana em Washington para os encontros de primavera do FMI e do Banco Mundial, suas discussões foram dominadas pela preocupação com o mais recente modelo de IA desenvolvido pela start-up Anthropic, sediada em São Francisco.
“É um desafio muito sério para todos nós”, disse Andrew Bailey, presidente do Banco da Inglaterra, que preside o Financial Stability Board [Conselho de Estabilidade Financeira], composto por reguladores globais. “Isso nos lembra da velocidade com que o mundo da IA se move.”
Bailey acrescentou que reguladores globais precisariam avaliar rapidamente a potencial ameaça à cibersegurança do sistema financeiro representada pelo novo modelo Claude Mythos Preview, da Anthropic.
Até pouco mais de uma semana atrás, a maior parte dos formuladores de políticas esperava que as reuniões do FMI e do Banco Mundial se concentrassem no conflito no Oriente Médio, nas tensões no mercado de crédito privado e nos níveis elevados de endividamento público.
Em vez disso, a capacidade dos novos modelos de IA de causar estragos no sistema bancário mundial foi tudo o que muitas pessoas quiseram discutir.
“A evolução da tecnologia digital está impondo riscos imensos sob a perspectiva da cibersegurança”, disse Dan Katz, diretor-adjunto do FMI e ex-chefe de gabinete do secretário do Tesouro dos EUA, Scott Bessent. “Isso realmente será absolutamente essencial na agenda internacional pelos próximos meses.”
A presidente do Banco Central Europeu, Christine Lagarde, disse: “O desenvolvimento que vimos com a Anthropic e o Mythos é um bom exemplo de uma empresa responsável que, de repente, está pensando: ‘ah, isso pode ser realmente muito bom’ — mas, se cair em mãos erradas, pode ser realmente muito ruim.”
Algumas autoridades defenderam uma resposta internacional coordenada à ameaça do Mythos, que, segundo a Anthropic, no início deste mês, “encontrou milhares de vulnerabilidades de alta gravidade, inclusive algumas em todos os principais sistemas operacionais e navegadores da web”.
A empresa alertou que “não demorará para que tais capacidades se proliferem, potencialmente além de agentes comprometidos em implantá-las com segurança”. E acrescentou: “As consequências — para economias, segurança pública e segurança nacional — podem ser severas.”
“Todos estão interessados em ter um arcabouço dentro do qual operar”, disse Lagarde à Bloomberg TV. Mas ela acrescentou: “Não creio que exista um arcabouço de governança que efetivamente esteja lá para cuidar dessas coisas. Precisamos trabalhar nisso.”
Até agora, a Anthropic compartilhou o Mythos apenas com um grupo de cerca de 40 empresas, incluindo Amazon, Apple e JPMorgan Chase, dando a elas a chance de experimentá-lo e começar a corrigir quaisquer vulnerabilidades que ele encontre em seus sistemas.
Bessent reuniu na semana passada líderes de alguns dos maiores bancos de Wall Street e Jay Powell, presidente do Federal Reserve, para discutir as fragilidades reveladas pelo Mythos, ao qual se acredita que algumas autoridades dos EUA tenham acesso.
Autoridades em Washington disseram que a tecnologia representa uma mudança fundamental no equilíbrio de forças entre atacantes e defensores dos sistemas de informação, por causa de sua capacidade de encadear autonomamente múltiplas vulnerabilidades de software em uma escala além da capacidade humana.
Elas têm ficado ao mesmo tempo impressionadas e alarmadas com a capacidade do Mythos de decidir autonomamente como abordar problemas, mas estão preocupadas com a falta de regulação para empresas de IA. As autoridades dizem estar avaliando colaborar com empresas de tecnologia, incluindo a Anthropic.
No entanto, alguns reguladores e executivos europeus dizem ter sido deixados no escuro sobre as potenciais vulnerabilidades reveladas pela mais recente tecnologia de IA, uma vez que a maioria deles ainda não conseguiu testar o novo modelo e determinar o nível de ameaça que ele poderia representar.
Questionado sobre como a Autoridade Bancária Europeia estava respondendo às preocupações em torno do Mythos, François-Louis Michaud, seu novo chefe, disse: “É um processo que está começando e agora estamos contemplando qual é a resposta correta.”
Michaud e outros reguladores europeus disseram que, há vários anos, vêm se concentrando nas ameaças de cibersegurança ao sistema bancário, que se intensificaram após a invasão em grande escala da Ucrânia pela Rússia em 2022, inclusive com a avaliação dos novos riscos potenciais da computação quântica.
Michaud destacou que a EBA vinha contratando mais especialistas em cibersegurança após receber poderes para supervisionar fornecedores-chave de TI para bancos da União Europeia. “Não estou dizendo que está tudo bem e perfeito, mas estou dizendo que não estamos começando do zero”, afirmou.
Executivos seniores baseados na Europa, de um grande banco e de um grande grupo de infraestrutura financeira, disseram ao FT, à margem das reuniões em Washington, que ainda não haviam tido a oportunidade de testar o Mythos.
O executivo bancário disse: “Se o que eles dizem é verdade, então isso obviamente é sério. Mas ainda é cedo demais para saber. Estamos falando com a Anthropic para ter acesso a esse modelo.”
A OpenAI, fabricante do ChatGPT, anunciou na quinta-feira que estava compartilhando seu modelo mais recente, projetado especificamente para cibersegurança, com um número limitado de “fornecedores de segurança, organizações e pesquisadores previamente avaliados” para testes. A empresa disse que o novo modelo, GPT-5.4-Cyber, foi “deliberadamente ajustado para capacidades cibernéticas adicionais e com menos restrições de capacidade”.
Diretores-executivos de grandes bancos dos EUA confirmaram nesta semana que estavam trabalhando com uma versão beta [versão de testes] do modelo Mythos, da Anthropic. O diretor-presidente do JPMorgan, Jamie Dimon, disse que o novo modelo de IA “mostra muitas vulnerabilidades que precisam ser corrigidas”.
Mas os executivos também ressaltaram os ganhos de produtividade que esperam da IA. “A IA é nossa amiga. É apenas a geração mais recente de tecnologia que fará parte do ecossistema”, disse Ted Pick, presidente do Morgan Stanley. “Estamos trabalhando com Claude Mythos, a versão beta [versão de testes], e estamos observando diferentes áreas dentro da infraestrutura onde simplesmente veremos melhoria contínua.”
Robin Vince, diretor-presidente do BNY, o banco mais antigo dos EUA, disse ao FT que a instituição também estava testando o modelo da Anthropic, enquanto Gonzalo Luchetti, diretor financeiro do Citigroup, disse a repórteres na terça-feira que o banco estava abordando esse avanço tecnológico com o “grau de urgência que ele exige”.
Alguns reguladores são céticos quanto à possibilidade de haver uma resposta global coordenada à ameaça da IA, dadas as atuais tensões geopolíticas, que estão sendo agravadas pelo conflito no Oriente Médio.
Os formuladores de políticas também estão relutantes em dificultar o desenvolvimento de uma tecnologia que pode trazer grandes benefícios econômicos.
“Qual é o momento ótimo para definir as regras do jogo?”, perguntou Bailey. “Se você agir cedo demais, a) corre o risco de errar o alvo e b) corre o risco de distorcer a evolução; e, se agir tarde demais, as coisas podem sair do controle.”
Fonte: Financial Times
Traduzido via ChatGPT
