CEO da Amazon teria alertado governo sobre falhas de segurança em modelos da Anthropic
O CEO da Amazon, Andy Jassy, pode ter sido a fonte de preocupações com segurança que levaram a Anthropic a cortar o acesso mundial a dois modelos na sexta-feira, segundo reportagem do Wall Street Journal.
Segundo a publicação, Jassy informou ao Secretário do Tesouro Scott Bessent e outros funcionários do governo que pesquisadores da Amazon utilizaram o modelo Claude Fable 5 da Anthropic para obter informações que poderiam ser usadas em ciberataques. Em seguida, o governo impôs um banimento de controles de exportação aos modelos Fable 5 e Mythos 5.
Um porta-voz da Amazon afirmou em comunicado que, embora não seja incomum os governos buscarem orientação da empresa sobre possíveis riscos de segurança, a companhia não compartilha os detalhes dessas discussões. O porta-voz também indicou que a AWS foi afetada pelo corte de acesso aos modelos.
A Information e a Reuters também reportaram que a Amazon, que é um grande investidor na Anthropic, havia comunicado preocupações sobre a segurança dos modelos da empresa. David Sacks, ex-czar de inteligência artificial de Trump que agora co-preside o Conselho Presidencial de Assessores em Ciência e Tecnologia, ofereceu seu próprio relato das discussões. Sacks afirmou que um parceiro altamente credível e confiável tanto para a Anthropic quanto para o governo americano apresentou uma falha de segurança (jailbreak). Sacks complementou dizendo que a administração solicitou ao CEO da Anthropic, Dario Amodei, que corrigisse a falha ou desativasse o modelo, afirmação que Amodei teria recusado.
Em resposta, a Anthropic publicou em seu blog que as capacidades que aparentemente causaram preocupação ao governo já estão disponíveis em outros modelos publicamente acessíveis.
Conteúdo reescrito pelo Pense Mercado com base nas fontes acima. Não constitui recomendação de investimento.