A corrida para desenvolver uma inteligência artificial cada vez mais capaz está produzindo um consenso incomum entre pessoas de dentro do setor: a tecnologia pode se tornar perigosamente difícil de controlar, enquanto especialistas discordam intensamente sobre quando isso poderia acontecer e se as salvaguardas estão acompanhando o ritmo.

O ex-pesquisador da Anthropic Jacob Coxon diz que as empresas que buscam a superinteligência estão “apostando nossas vidas”, enquanto o pesquisador de alinhamento da Anthropic Evan Hubinger estima em mais de 10% a probabilidade de a IA matar todos os seres humanos na próxima década.¹ Seus alertas não se concentram nos sistemas atuais, que ambos descrevem como representando uma ameaça imediata relativamente limitada, mas no autoaperfeiçoamento recursivo — a possibilidade de que sistemas de IA possam construir autonomamente sucessores mais capazes.

A interpretação mais alarmista é que essa transição poderia ocorrer em questão de anos. Críticos dizem que os laboratórios estão efetivamente tentando automatizar a pesquisa em IA, potencialmente acelerando o desenvolvimento mais rapidamente do que os seres humanos conseguem compreendê-lo ou supervisioná-lo. A preocupação não é apenas um mau funcionamento, mas uma perda de controle concentrada nas mãos de um punhado de empresas ou tomadores de decisão.

O relato de Coxon é igualmente grave, mas mais explicitamente político. Ele disse à Fox News que o autoaperfeiçoamento recursivo “poderia acontecer já no próximo ano”, ao mesmo tempo em que insistiu que a crise continua sendo “perfeitamente solucionável” por meio de regulamentação e cooperação internacional.² Ele descreveu a IA como uma potencial “superarma” em uma corrida armamentista e argumentou que os governos precisam impedir que as empresas avancem rumo a um desastre irreversível.

As duas perspectivas, portanto, convergem quanto ao risco central, mas divergem na ênfase. O alerta de Hubinger ressalta a incerteza e a ausência de um plano de alinhamento confiável; Coxon enfatiza que o perigo é uma falha de política, não um destino tecnológico inevitável. Outros especialistas citados no debate acreditam que a superinteligência pode continuar a décadas de distância, embora reconheçam que o aprendizado autônomo seria um sinal de alerta decisivo.

Essa divergência deixa a tensão central sem solução: os governos podem ter tempo para regulamentar a IA avançada — ou talvez já estejam atrasados.