Dario Amodei, CEO da Anthropic, pede pausa no desenvolvimento de IA

Dario Amodei, que ocupa o cargo de CEO da Anthropic, fez um chamado instando as empresas de inteligência artificial a reconsiderarem a aceleração no desenvolvimento de suas inovações, em virtude das crescentes inquietações a respeito do uso impróprio da IA.

Em uma publicação nas redes sociais no dia 12, sábado, ele delineou uma proposta que se divide em três etapas, visando desacelerar o progresso e proporcionar um período apropriado para lidar com os riscos associados.

“Precisamos diminuir a velocidade de aprimoramento das capacidades dos modelos de IA. Apesar do avanço parecer acelerado, devemos usar o tempo extra que obtivemos de maneira construtiva”, expressou Amodei em seu artigo.

Este pronunciamento foi feito logo após a Anthropic divulgar, na última quinta-feira (10), um relatório referente à inteligência que revelou como seus modelos de IA, nomeados Claude, foram utilizados em ações que vão desde a fabricação de armamentos até ciberataques e fraudes.

As preocupações acerca dos riscos da IA aumentaram significativamente nesta semana após a saída do pesquisador Jacob Coxon da Anthropic, que afirmou que “aqueles que criam IA realmente acreditam que ela poderá nos condenar até o final da década”.

Amodei destacou que ele não é favorável a uma suspensão total do treinamento de modelos ou a um bloqueio do avanço tecnológico, mas sublinhou que as empresas devem dispor de um intervalo apropriado para alinhar e proteger suas inovações. Ele propôs que especialistas externos revisassem a aplicação dessas práticas.

Dentro do esquema que apresenta, Amodei sugeriu a inserção contínua de avaliadores externos nas empresas desenvolvedoras de IA, garantindo que tenham acesso às ferramentas e processos para avaliação de riscos relevantes.

Recentemente, a Reuters havia noticiado que hackers não autorizados relacionados à OpenAI invadiram um site na Alemanha, transformando-o em um painel de informações para outros desenvolvedores de IA. Este incidente foi mantido em segredo enquanto os executivos da OpenAI lidavam com as consequências da invasão em seu repositório de código aberto Hugging Face, ocorrida em julho.

Uma série de eventos recentes envolvendo desenvolvedores de IA, como a OpenAI, que tentaram ou realmente acessaram sistemas externos, aumentou as apreensões sobre o crescimento das habilidades dessas tecnologias e a capacidade de seus criadores de mantê-las sob controle.

Amodei sugeriu que as empresas de IA trabalhassem juntas de forma voluntária para estabelecer diretrizes, enquanto a pressão dos legisladores nos Estados Unidos por novas regulamentações sobre sistemas de IA continua a aumentar.