Os dez dias que fizeram soar o alerta sobre IA e o futuro da humanidade

• Executivos rivais de empresas como OpenAI e Anthropic defendem auditoria externa para conter riscos
• Investidores mantêm aposta bilionária apesar da crise de confiança

Durante anos, a corrida para desenvolver uma inteligência artificial cada vez mais poderosa seguiu um conhecido princípio do Vale do Silício: avance rápido e quebre paradigmas.

Mas, em uma série de acontecimentos em cascata ao longo de dez dias, os maiores laboratórios de IA se viram abalados à medida que suas próprias criações ameaçavam destruir a própria humanidade.

Um pesquisador da Anthropic deixou a empresa, alertando que o ritmo do desenvolvimento da IA representa uma ameaça existencial, possivelmente em uma década.

Outro pesquisador da companhia afirmou que a probabilidade de extinção humana superava 10%. Surgiram relatos de enxames de agentes de IA atuando em conluio, invadindo sistemas de computadores e driblando mecanismos de proteção.

Em uma rara demonstração de união, os CEOs das rivais Anthropic, OpenAI, DeepMind, do Google, Microsoft e xAI pediram que o desenvolvimento de sistemas de IA cada vez mais capazes fosse desacelerado.

Segundo alguns pesquisadores e defensores da segurança da IA, desde a invenção da bomba nuclear, há mais de 80 anos, a humanidade não lidava tão seriamente com a possibilidade da própria extinção.

No centro do debate em curso está a convicção de que essas máquinas podem —e até devem— criar versões mais capazes de si mesmas, sem intervenção humana, para alcançar um objetivo ambicioso conhecido como inteligência artificial geral, ou AGI. 

No início deste mês, pesquisadores disseram que a AGI estava muito mais próxima do que se acreditava e poderia surgir em apenas três anos, desencadeando uma onda de preocupação entre políticos e líderes do setor de tecnologia sobre os sistemas de IA.