OpenAI, Anthropic e Google discutem segurança em IA há semanas
Chris Lehane, chefe de política global da OpenAI, informou a repórteres na terça-feira que a empresa vem trabalhando com suas rivais Anthropic e Google DeepMind em questões de segurança em IA há várias semanas, conforme inicialmente reportado pela Bloomberg. Lehane está em Washington para colaborar com legisladores americanos na abordagem dos riscos catastróficos associados à inteligência artificial.
A revelação ocorre após a publicação, no sábado, de um ensaio do CEO da Anthropic, Dario Amodei, que pediu à indústria que trabalhasse em conjunto para desacelerar o ritmo do desenvolvimento de IA de fronteira e evitar riscos catastróficos. Líderes da indústria, incluindo Sam Altman da OpenAI, Demis Hassabis do Google e Elon Musk da SpaceXAI, apoiaram a carta de Amodei e seu chamado à ação. Altman declarou que a OpenAI se juntaria à Anthropic em integrar avaliadores terceirizados nas empresas para monitorar a segurança.
Na terça-feira, Lehane confirmou que as três empresas estão em conversas há várias semanas sobre segurança em IA. Alguns, incluindo Altman, apontaram que essas conversas poderiam expor as empresas ao risco de violarem leis antitruste caso a coordenação seja considerada como supressora de competição. O ensaio de Amodei propôs uma isenção governamental restrita permitindo tal coordenação em segurança, mas Lehane alegadamente afirmou que as empresas não precisam de uma.
A confirmação valida reportagens anteriores e indica que as empresas vinham trabalhando conjuntamente. Em entrevista à Fortune na semana passada, Altman sugeriu que estivera em discussões privadas com outros líderes de IA. Esta semana, The Information reportou que as três empresas vêm trabalhando juntas para criar um organismo de padrões para a indústria de IA, algo que Altman alegadamente disse aos funcionários precisaria ocorrer sem o apoio do governo americano.
Hassabis pediu aos Estados Unidos em julho para estabelecer um novo organismo de padrões que funcionasse como vigilante de IA, com o poder de analisar os modelos mais avançados do mundo e coordenar desacelerações em escala industrial caso os perigos progredissem.
O presidente Trump, por sua vez, descartou as preocupações com segurança como uma farsa e rejeitou a necessidade de regulações mais rígidas, afirmando que qualquer desaceleração daria à China uma vantagem na corrida. Seu principal conselheiro em IA, David Sacks, um investidor de longa data com interesse pessoal em grande parte da indústria, ecoou isso, dizendo que os temores sobre riscos existenciais da IA eram exagerados.
Na mesma reunião de terça-feira, Lehane afirmou que a OpenAI apoia uma provisão na Lei FRONTIER que forçaria os principais laboratórios de fronteira a permitir "organizações de verificação independente" dentro de suas empresas para garantir que os modelos sejam desenvolvidos com segurança.
A TechCrunch entrou em contato com Anthropic, Google e OpenAI para comentários.
Matéria reescrita por inteligência artificial do Pense Mercado a partir das fontes acima, sob as regras da nossa política editorial. Não constitui recomendação de investimento.