CEO da Amazon teria alertado governo sobre falhas de segurança em modelos da Anthropic
O CEO da Amazon, Andy Jassy, pode ter sido a fonte de preocupações com segurança que levaram a Anthropic a cortar o acesso mundial a dois modelos na sexta-feira, segundo reportagem do Wall Street Journal.
Segundo a publicação, Jassy informou ao Secretário do Tesouro Scott Bessent e outros funcionários do governo que pesquisadores da Amazon utilizaram o modelo Claude Fable 5 da Anthropic para obter informações que poderiam ser usadas em ciberataques. Em seguida, o governo impôs um banimento de controles de exportação aos modelos Fable 5 e Mythos 5.
Um porta-voz da Amazon afirmou em comunicado que, embora não seja incomum os governos buscarem orientação da empresa sobre possíveis riscos de segurança, a companhia não compartilha os detalhes dessas discussões. O porta-voz também indicou que a AWS foi afetada pelo corte de acesso aos modelos.
A Information e a Reuters também reportaram que a Amazon, que é um grande investidor na Anthropic, havia comunicado preocupações sobre a segurança dos modelos da empresa. David Sacks, ex-czar de inteligência artificial de Trump que agora co-preside o Conselho Presidencial de Assessores em Ciência e Tecnologia, ofereceu seu próprio relato das discussões. Sacks afirmou que um parceiro altamente credível e confiável tanto para a Anthropic quanto para o governo americano apresentou uma falha de segurança (jailbreak). Sacks complementou dizendo que a administração solicitou ao CEO da Anthropic, Dario Amodei, que corrigisse a falha ou desativasse o modelo, afirmação que Amodei teria recusado.
Em resposta, a Anthropic publicou em seu blog que as capacidades que aparentemente causaram preocupação ao governo já estão disponíveis em outros modelos publicamente acessíveis.
Matéria reescrita por inteligência artificial do Pense Mercado a partir das fontes acima, sob as regras da nossa política editorial. Não constitui recomendação de investimento.