O risco sistêmico é a preocupação central. Modelos desalinhados podem desencadear eventos súbitos, como falhas instantâneas em mercados de energia ou finanças automatizadas. O lado positivo é expressivo. A IA já está desburocratizando cadeias de suprimentos, acelerando a descoberta de medicamentos e aumentando a produtividade. Uma estimativa sugere que ela pode acrescentar US$ 19,9 trilhões ao produto global até 2030, cerca de 3,5% do PIB mundial.
Mas os riscos escalam na mesma velocidade. Modelos fundacionais poderosos estão sendo integrados a mercados, redes elétricas, hospitais e armamentos. Um único exploit, acidente ou má configuração pode se espalhar por redes em segundos. Já as deepfakes estão corroendo a confiança na mídia e nas eleições. À medida que as capacidades se expandem, o perigo passa de falhas pontuais para choques sistêmicos e, no extremo, risco existencial.