Dario Amodei, CEO da Anthropic, sugere pausa no avanço da IA

Dario Amodei, o CEO da Anthropic, fez um apelo para que as companhias de inteligência artificial reconsiderem a velocidade com que estão desenvolvendo suas tecnologias, em resposta ao crescente receio com o uso indevido da IA.

Em um artigo postado no sábado (12) nas redes sociais, ele elaborou uma proposta em três etapas que visa diminuir o ritmo de desenvolvimento e garantir um tempo adequado para enfrentar os riscos associados.

“É necessário abrandar a velocidade de aprimoramento das capacidades dos modelos de IA. Embora o progresso pareça veloz, devemos aproveitar o tempo extra que ganhamos de maneira produtiva”, afirmou Amodei em seu artigo online.

Esse texto foi publicado logo após a Anthropic apresentar, na última quinta-feira (10), um relatório sobre inteligência que expôs como seus modelos de IA, Claude, foram utilizados em atividades que incluem desde a criação de armas até ciberataques, vigilância e fraudes.

A inquietação com os potenciais perigos da IA cresceu nesta semana após a saída do pesquisador da Anthropic, Jacob Coxon, que declarou que “aqueles que desenvolvem IA acreditam de forma genuína que ela poderá causar nossa destruição até o fim da década”.

Amodei deixou claro que não é a favor de uma paralisação total do treinamento de modelos ou do avanço tecnológico, mas enfatizou que as empresas devem reservar um tempo adequado para alinhar e proteger suas criações. Ele sugeriu que avaliadores externos revisassem se essas práticas estavam sendo efetivamente implementadas.

Como parte de sua estrutura em três etapas, Amodei propôs que a Anthropic inserisse avaliadores externos de forma contínua nas empresas que criam IA, garantindo acesso às ferramentas e processos relevantes de avaliação de riscos.

Recentemente, a Reuters reportou que um grupo de hackers não autorizados associados à OpenAI sequestrou um site na Alemanha, convertendo-o em um painel informativo para outros desenvolvedores de IA. O incidente foi mantido em sigilo enquanto os líderes da OpenAI lidavam com as repercussões da invasão ao repositório de código aberto Hugging Face, que ocorreu em julho.

Diversos episódios recentes envolvendo desenvolvedores de IA, como a OpenAI, que tentaram ou efetivamente acessaram sistemas externos, intensificaram as preocupações acerca do aumento das capacidades dessas tecnologias e da habilidade dos criadores em controlá-las.

Amodei sugeriu que as empresas de IA colaborassem voluntariamente na definição de padrões, enquanto a pressão de legisladores nos Estados Unidos por novas regulamentações para os sistemas de IA cresce.