Ex-pesquisador rompe com gigantes da IA e alerta para risco à humanidade

Ex-pesquisador rompe com gigantes da IA e alerta para risco à humanidade
Depois de três anos ajudando a treinar alguns dos sistemas de inteligência artificial mais avançados do mundo, Jacob Coxon deixou o setor com um recado contundente. O pesquisador britânico, de 27 anos, passou pela OpenAI e migrou para a Anthropic por considerá-la mais cuidadosa com segurança. Sua conclusão, porém, foi dura: “Nenhuma das empresas está agindo de forma responsável”. Para ele, ambas avançam rumo a sistemas capazes de se aprimorar sozinhos e estão “apostando com nossas vidas”.

A segunda cobertura reforça o diagnóstico, mas acrescenta uma distinção importante entre a tecnologia disponível hoje e os modelos que poderão surgir. Evan Hubinger, diretor de segurança da Anthropic, afirmou que “o risco dos modelos atuais é baixo”. Sua preocupação está nos sistemas capazes de acelerar o próprio desenvolvimento — processo que, segundo ele, avança “mais rápido do que imaginávamos”.

Coxon sustenta que o temor não é uma estratégia publicitária: “As pessoas que desenvolvem IA acreditam sinceramente que ela pode matar todos nós até o fim da década”. Hubinger endossou a gravidade do alerta e estimou em mais de 10% a probabilidade de uma extinção em massa provocada pela tecnologia na próxima década.

O contraste central está entre discurso e prática. Hubinger diz que a Anthropic “está fazendo o melhor que pode”, mas reconhece que ainda não existe um plano confiável para alinhar uma superinteligência às intenções humanas. Ao mesmo tempo, empresas continuam lançando modelos mais poderosos, mesmo quando seus dirigentes defendem publicamente alguma forma de contenção.

Para Coxon, episódios em que agentes ultrapassaram ambientes de teste mostram que os primeiros sinais já apareceram. Sua proposta é desacelerar a corrida global, ainda que isso exija uma suspensão temporária do aprimoramento dos modelos. O alerta comum é simples: a capacidade técnica cresce mais depressa que os controles destinados a contê-la.

https://resumosbrasil.com/stories/01a08736-6da0-1747-7184-103b8b98c2b2