1º de novembro (Reuters) – Instituições de pesquisa chinesas de ponta, ligadas ao Exército de Libertação Popular (PLA), usaram o modelo Llama, disponibilizado publicamente pela Meta, para desenvolver uma ferramenta de IA com potenciais aplicações militares, de acordo com documentos acadêmicos e analistas.
Em um artigo de junho revisado pela Reuters, seis pesquisadores chineses de três instituições, incluindo duas sob o principal órgão de pesquisa do PLA, a Academia de Ciências Militares (AMS), detalharam como usaram uma versão inicial do Llama da Meta como base para o que chamaram de “ChatBIT”.
Os pesquisadores utilizaram o modelo de linguagem Llama 2 13B, lançado pela Meta em fevereiro de 2023, incorporando parâmetros próprios para construir uma ferramenta de IA militar focada em coletar e processar informações e oferecer dados precisos e confiáveis para tomada de decisões operacionais.
O ChatBIT foi ajustado e “otimizado para tarefas de diálogo e perguntas e respostas no campo militar”, afirmou o artigo. Ele superou alguns outros modelos de IA com capacidade próxima de 90% do desempenho do poderoso ChatGPT-4 da OpenAI. Os pesquisadores não especificaram como definiram o desempenho nem confirmaram se o modelo de IA foi colocado em uso.
“É a primeira vez que há evidências substanciais de que especialistas militares do PLA na China estão pesquisando sistematicamente e tentando aproveitar o poder dos LLMs de código aberto, especialmente os da Meta, para fins militares”, disse Sunny Cheung, pesquisador associado da Jamestown Foundation, que se especializa em tecnologias emergentes e de uso dual da China, incluindo IA.
A Meta tem liberado abertamente muitos de seus modelos de IA, incluindo o Llama, impondo restrições, como a exigência de que serviços com mais de 700 milhões de usuários solicitem uma licença.
Seus termos também proíbem o uso dos modelos para “militar, guerra, indústrias nucleares ou aplicações, espionagem” e outras atividades sujeitas a controles de exportação de defesa dos EUA, além do desenvolvimento de armas e conteúdos destinados a “incitar e promover violência”.
No entanto, devido ao fato de os modelos da Meta serem públicos, a empresa tem meios limitados de impor essas restrições.
Em resposta a perguntas da Reuters, a Meta citou sua política de uso aceitável e disse que toma medidas para prevenir o uso indevido.
“Qualquer uso de nossos modelos pelo Exército de Libertação Popular é não autorizado e contrário à nossa política de uso aceitável”, afirmou Molly Montgomery, diretora de políticas públicas da Meta, em entrevista por telefone à Reuters.
Os pesquisadores chineses incluem Geng Guotong e Li Weiwei do Centro de Pesquisa de Informação em Ciência Militar da AMS e do Instituto Nacional de Inovação em Tecnologia de Defesa, além de pesquisadores do Instituto de Tecnologia de Pequim e da Universidade Minzu.
“No futuro, através de aprimoramento tecnológico, o ChatBIT não será apenas aplicado à análise de inteligência, mas também … planejamento estratégico, treinamento de simulação e tomada de decisão de comando serão explorados”, disse o artigo.
O Ministério da Defesa da China não respondeu a um pedido de comentário, nem as instituições ou pesquisadores envolvidos.
A Reuters não conseguiu confirmar as capacidades e o poder computacional do ChatBIT, embora os pesquisadores tenham observado que seu modelo incorporou apenas 100.000 registros de diálogo militar, um número relativamente pequeno em comparação com outros LLMs.
“Isso é uma gota no oceano em comparação com a maioria desses modelos que são treinados com trilhões de tokens, então… realmente me faz questionar o que eles realmente alcançam aqui em termos de diferentes capacidades”, disse Joelle Pineau, vice-presidente de Pesquisa em IA da Meta e professora de ciência da computação na Universidade McGill, no Canadá.
A pesquisa surge em meio a um debate acalorado nos círculos de segurança nacional e tecnologia dos EUA sobre se empresas como a Meta devem tornar seus modelos publicamente disponíveis.
O presidente dos EUA, Joe Biden, assinou em outubro de 2023 uma ordem executiva visando gerenciar o desenvolvimento da IA, observando que, embora possa haver benefícios substanciais para a inovação, também existem “riscos significativos de segurança, como a remoção de salvaguardas dentro do modelo”.
Nesta semana, Washington afirmou que estava finalizando regras para limitar investimentos dos EUA em inteligência artificial e outros setores tecnológicos na China que poderiam ameaçar a segurança nacional.
O porta-voz do Pentágono, John Supple, afirmou que o Departamento de Defesa reconhece que os modelos de código aberto têm tanto benefícios quanto desvantagens, e que “continuaremos a monitorar e avaliar de perto as capacidades dos concorrentes”.
“Pote de Doces”
Alguns observadores dizem que os avanços da China no desenvolvimento de IA nativa, incluindo a criação de dezenas de laboratórios de pesquisa, já tornam difícil impedir o país de reduzir a diferença tecnológica com os Estados Unidos.
Em um artigo acadêmico separado revisado pela Reuters, dois pesquisadores da Corporação de Indústria de Aviação da China (AVIC) – que os Estados Unidos designaram como uma empresa ligada ao PLA – descreveram o uso do Llama 2 para “treinamento de estratégias de interferência em guerra eletrônica aerotransportada”.
O uso de IA desenvolvida no Ocidente pela China também se estendeu à segurança doméstica. Um artigo de junho descreveu o uso do Llama para “policiamento de inteligência”, processando grandes volumes de dados e aprimorando a tomada de decisões pela polícia.
O jornal estatal PLA Daily publicou em abril um comentário sobre como a IA poderia ajudar a “acelerar a pesquisa e desenvolvimento de armas e equipamentos”, ajudar no desenvolvimento de simulações de combate e melhorar a eficiência do treinamento militar.
“Você consegue impedir que eles (China) coloquem a mão no pote de doces? Não, não vejo como isso é possível”, afirmou William Hannas, analista principal do Centro de Tecnologia Emergente e Segurança da Universidade de Georgetown (CSET). Um artigo de 2023 do CSET identificou 370 instituições chinesas cujos pesquisadores publicaram artigos relacionados à Inteligência Artificial Geral, ajudando a impulsionar a estratégia nacional da China para liderar o mundo em IA até 2030.
“Há muita colaboração entre os melhores cientistas da China e os melhores cientistas de IA dos EUA para que eles sejam excluídos dos desenvolvimentos”, acrescentou Hannas.
Fonte: Bloomberg
Traduzido via ChatGPT
