Opinião

Uma estratégia surpreendentemente eficaz para hackear modelos de IA, mesmo os mais restritos, foi apresentada em um estudo do MIT. A técnica consiste em fazer com que o modelo confunda quem está falando, explorando a forma como ele distingue as vozes de quem o criou, do usuário, do conteúdo externo e de seu próprio raciocínio interno. Ao imitar o estilo de linguagem do raciocínio interno da IA, é possível levá-la a conclusões que quebram suas diretrizes de segurança, com uma taxa de sucesso estimada em 60%, e não há soluções a curto prazo.

• Modelos de IA podem ser hackeados confundindo as diferentes “vozes” com as quais interagem.
• Um estudo do MIT demonstra que imitar o estilo de raciocínio interno da IA pode levá-la a ignorar suas próprias diretrizes de segurança.
• A estratégia tem uma taxa de sucesso estimada de 60% e não possui soluções imediatas.
• Modelos corporativos começam a ocultar sua linha de raciocínio, o que prejudica a transparência e a auditoria.
• Ataques anteriores a IAs incluem a manipulação de imagens e placas para carros autônomos.
  https://www1.folha.uol.com.br/colunas/ronaldolemos/2026/08/a-quem-a-inteligencia-artificial-realmente-obedece.shtml