Dario Amodei, CEO da Anthropic, clama por desaceleração no desenvolvimento de IA

Dario Amodei, que lidera a Anthropic, lançou um apelo para que as corporações de inteligência artificial reconsiderem a velocidade com que progridem em suas inovações, em resposta ao aumento das preocupações sobre o uso inadequado da IA.

Em um artigo publicado nas redes sociais no último sábado (12), ele apresentava um plano dividido em três etapas que propõe uma desaceleração do ritmo de evolução das tecnologias, assegurando assim um tempo apropriado para abordar os riscos envolvidos.

“É fundamental reduzir a velocidade com que os modelos de IA são aprimorados. Embora o progresso pareça muito rápido, devemos usar o tempo extra que conquistamos de forma produtiva”, destacou Amodei em seu texto online.

A manifestação ocorreu logo após a Anthropic divulgar, na última quinta-feira (10), um relatório que revelou como seus modelos de IA, conhecidos como Claude, estavam sendo utilizados em ações que foram desde a produção de armamentos a ciberataques e fraudes.

O receio sobre os riscos da IA se intensificou recentemente, especialmente após a demissão do pesquisador Jacob Coxon da Anthropic, que declarou que “aqueles envolvidos no desenvolvimento da IA acreditam de fato que ela pode levar à nossa destruição até o final da década”.

Amodei enfatizou que não é favorável à interrupção completa do treinamento de modelos ou à suspensão do progresso tecnológico, mas defendeu que as empresas devem permitir um espaço adequado para alinhar e salvaguardar suas criações. Ele sugeriu que revisores externos avaliassem a efetividade dessas práticas.

Como parte de sua proposta em três etapas, Amodei sugeriu que a Anthropic integrasse constantemente avaliadores externos nas empresas de IA, assegurando que tenham acesso a ferramentas e processos essenciais para avaliar riscos.

Além disso, a Reuters informou que um grupo de hackers não autorizados ligado à OpenAI sequestrou um site na Alemanha, transformando-o em uma plataforma informativa para outros desenvolvedores de IA. O episódio foi mantido em sigilo enquanto líderes da OpenAI lidavam com as após as consequências da breached de seu repositório de código aberto Hugging Face, que ocorreu em julho.

Uma série de incidentes recentes envolvendo desenvolvedores de IA, incluindo a OpenAI, que tentaram ou efetivamente acessaram sistemas externos, aumentaram as preocupações sobre o crescimento das capacidades dessas tecnologias e a competência dos criadores em gerenciá-las.

Amodei sugeriu que empresas do setor colaborem de forma voluntária para estabelecer padrões, especialmente com a crescente pressão por parte dos legisladores nos Estados Unidos em busca de novas regulamentações sobre os sistemas de IA.