Os Estados Unidos determinaram na sexta-feira (12) o bloqueio do acesso de estrangeiros aos novos modelos de inteligência artificial (IA) da Anthropic, alegando riscos à segurança nacional. A medida vale para usuários dentro e fora do país e alcança inclusive funcionários estrangeiros da própria startup.
Para cumprir a determinação, a empresa retirou os modelos do ar globalmente.
Embora o governo estadunidense não tenha detalhado qual seria o risco identificado, a Anthropic acredita que a decisão esteja relacionada à possibilidade de um jailbreak do modelo de IA Fable 5.
O que preocupa o governo dos EUA
O jailbreak é uma técnica que utiliza engenharia de prompt ou simulações para induzir um sistema de inteligência artificial a responder de forma diferente daquela para a qual foi programado.
O método pode ser usado para contornar regras de segurança e princípios éticos, executar ações restritas ou alterar o comportamento previsto do modelo.
Apesar de reconhecer a existência dessa vulnerabilidade, a Anthropic afirma que a possibilidade de jailbreak não justifica impedir o acesso de milhões de usuários à ferramenta.
Anthropic fala em “mal-entendido”
Em comunicado, a dona do Claude informou que cumprirá a ordem do governo, mas classificou a diretiva como um possível “mal-entendido”.
Segundo a empresa, uma medida desse tipo poderia ter impactos muito mais amplos sobre o setor de inteligência artificial.
“Se essa determinação fosse aplicada a toda a indústria, praticamente toda nova implementação, pelo menos dos principais fornecedores de modelos, seria paralisada”, afirmou a companhia.
A Anthropic também destacou que já havia comunicado às autoridades americanas a possibilidade de exploração dos modelos, mas criticou a forma como a decisão foi tomada.
“Como já havíamos declarado, acreditamos que o governo tenha a autonomia para barrar implementações arriscadas como parte de um processo legal, com transparência, justo, claro e fundamentado em fatos técnicos. Esta ação não está em conformidade com esses princípios”, disse a empresa.
Bloqueio ocorreu dias após o lançamento
A determinação do governo chegou apenas três dias depois do lançamento dos novos modelos. O Fable 5 e o Mythos 5 foram disponibilizados ao público na última terça-feira (9).
- Leia também: Anthropic, dona do Claude, capta US$ 65 bilhões de investidores e passa a ser avaliada em quase US$ 1 trilhão
Os sistemas ficariam disponíveis gratuitamente por apenas 13 dias. A partir de 22 de junho, os usuários sem assinatura passariam a acessá-los por meio de cobrança via API, pagando por cada requisição realizada.
Histórico de atritos entre governo e empresa
O episódio é mais um capítulo das divergências entre o governo americano e a Anthropic.
No fim de fevereiro, as autoridades dos Estados Unidos determinaram que agências federais interrompessem o uso dos modelos da startup.
A decisão ocorreu após a empresa se recusar a permitir que as Forças Armadas utilizassem suas ferramentas sem restrições e sem salvaguardas técnicas, alegando questões éticas.
*Com informações do Estadão Conteúdo
The post Anthropic é obrigada a suspender acesso aos seus novos modelos de IA após ordem dos EUA; entenda appeared first on Seu Dinheiro.