Modelos de IA da Anthropic voltam online após duas semanas de impasse com governo dos EUA
A Anthropic restaurou o acesso global ao modelo Fable 5 nesta terça-feira, duas semanas após a administração Trump impor controles de exportação no modelo de inteligência artificial mais poderoso da empresa, citando preocupações de segurança. O secretário de comércio dos EUA, Howard Lutnick, confirmou que o governo havia passado as duas semanas anteriores trabalhando com a Anthropic para garantir que o Fable tivesse "alinhamento" com os interesses americanos.
O acesso tanto ao Fable quanto ao modelo relacionado produzido pela Anthropic chamado Mythos 5 havia sido restrito desde meados de junho. O governo dos EUA inicialmente proibiu o uso dos modelos por cidadãos estrangeiros, mas como a proibição se aplicava aos usuários independentemente de estarem dentro ou fora dos EUA, e também se aplicaria a funcionários estrangeiros da Anthropic, a empresa anunciou rapidamente que suspenderia o acesso para todos os usuários. A administração Trump afirmou que a decisão havia sido tomada por razões de segurança nacional, temendo a possibilidade de atores hostis conseguirem fazer "jailbreak" dos modelos e contornar as proteções integradas projetadas para prevenir uso malicioso.
Contudo, essas restrições se mostraram de vida curta. Na semana anterior, o governo permitiu que a Anthropic lançasse seu modelo Mythos para um grupo selecionado de mais de 100 empresas sediadas nos EUA e agências federais, desfazendo parcialmente as restrições. O movimento espelhou a própria estratégia da Anthropic quando os modelos poderosos foram lançados pela primeira vez. A empresa revelou primeiro o Mythos para um grupo exclusivo de usuários no início deste ano, antes de lançar o Fable, uma versão com as mesmas capacidades subjacentes mas com mais proteções e filtros de segurança projetados para uso geral.
Os detalhes adicionais sobre as preocupações de segurança que levaram às restrições de exportação foram revelados pela Anthropic em postagem de blog publicada nesta terça-feira. O Fable 5 foi lançado no início de junho e incluía recursos de segurança que bloqueavam os usuários de fazer perguntas sobre segurança cibernética, bem como sobre biologia e química necessárias para criar armas biológicas. Entretanto, o Departamento de Comércio rapidamente forçou a empresa a remover os modelos após emitir uma restrição de exportação dias depois.
A Anthropic confirmou que as restrições vieram após o governo "ficar ciente" de um relatório de pesquisadores da Amazon que conseguiram contornar com sucesso os mecanismos de segurança do Fable 5 e identificar vulnerabilidades de software. Em uma instância, os pesquisadores da Amazon também conseguiram fazer com que o Fable 5 "demonstrasse" como uma vulnerabilidade de segurança de software poderia ser explorada. Porém, a técnica específica utilizada pelos pesquisadores da Amazon agora está "bloqueada em mais de 99% dos casos", segundo a Anthropic na terça-feira.
Em uma segunda carta enviada ao CEO Dario Amodei e obtida por múltiplos meios de comunicação, Lutnick afirmou que a empresa trabalhou ao lado do governo para "abordar os riscos" associados aos novos modelos. O Mythos 5, a versão mais poderosa do modelo mais recente da Anthropic com menos proteções, foi disponibilizado para o que a empresa chamou de um "pequeno número de parceiros confiáveis do Projeto Glasswing para uso em segurança cibernética defensiva". O Projeto Glasswing consistiu em um grupo maior de empresas que receberam acesso antecipado à tecnologia para ajudar a identificar riscos. O Fable 5, a versão com mais proteções, ficará disponível ao público geral a partir de quarta-feira, segundo a Anthropic.
Com a restauração do acesso aos modelos, a Anthropic efetivamente reverteu o panorama do modelo de IA de fronteira ao mesmo status quo que havia deixado duas semanas atrás antes da intervenção governamental. Contudo, o anúncio da empresa na terça-feira sugeriu que trabalharia mais próxima à Casa Branca no futuro. A Anthropic, uma das startups de IA líderes mundiais com avaliação de mercado privado de aproximadamente um trilhão de dólares, afirmou que "aumentará nossa colaboração com o governo" e trabalhará para desenvolver um "marco de indústria compartilhado" com a administração e o setor privado. A empresa especificamente afirmou que estaria trabalhando com empresas como Amazon, Microsoft e Google para estabelecer padrões industriais sobre como avaliar vulnerabilidades potenciais em modelos de fronteira.
Desde que a Anthropic começou a oferecer vislumbres de seu modelo Mythos no início deste ano, críticos criticaram a empresa por alegadamente construir hype falando o quanto o modelo poderia ser perigoso nas mãos erradas. Sam Altman, CEO da OpenAI, um dos maiores rivais da Anthropic, sugeriu que a empresa estava se engajando em "marketing baseado em medo" em uma aparição no podcast Core Memory em abril. Respondendo a uma pergunta sobre os títulos gerados pelo Mythos no início deste ano, Altman disse: "é, você sabe, claramente um marketing incrível dizer, 'Construímos uma bomba. Estamos prestes a soltá-la sobre sua cabeça. Venderemos para você um abrigo de bombas por 100 milhões de dólares.'"
O anúncio de terça-feira pode sinalizar um novo começo para a Anthropic, que tem estado em conflito com a administração Trump por meses sobre o uso de seus modelos de IA. Em março, o Pentágono designou a empresa como um risco da cadeia de suprimentos após um desentendimento entre oficiais do Departamento de Defesa e a firma de IA, que se recusou a permitir ao governo acesso irrestrito a seus modelos. A Anthropic repetidamente afirmou que não permitiria que seus modelos fossem utilizados para armas autônomas ou vigilância em massa de americanos. O anúncio também oferece um sinal positivo conforme a empresa se prepara para o que poderia ser um IPO espetacular.
Conteúdo reescrito pelo Pense Mercado com base nas fontes acima. Não constitui recomendação de investimento.