Meta remove recurso de IA polêmico no Instagram após reações negativas
A Meta removeu uma ferramenta controversa de inteligência artificial que permitia aos usuários modificar fotos de contas públicas do Instagram usando IA. O recurso, lançado no início da semana juntamente com outros aplicativos de IA, "não atingiu o objetivo" e não está mais disponível, conforme confirmado pela empresa.
No início desta semana, a Meta anunciou o Muse Image, um novo gerador de imagens por IA desenvolvido pela Meta Superintelligence Labs, sua unidade dedicada de IA. A empresa promoveu um recurso que permitia aos indivíduos gerar imagens marcando com @ contas públicas do Instagram que desejavam referenciar. A ferramenta não foi projetada para alertar usuários caso suas fotos fossem utilizadas dessa forma, o que provocou reações imediatas e negativas.
A TechCrunch publicou um guia próprio sobre como desabilitar o recurso. Agora a Meta reverteu sua decisão. A empresa divulgou um comunicado na sexta-feira anunciando a remoção da ferramenta. Dylan Byers, sócio fundador da Puck News, foi o primeiro a compartilhar a decisão da empresa.
"Nossa intenção era fornecer uma ferramenta criativa útil e dar às pessoas controle sobre se seu conteúdo público poderia ser referenciado dessa forma", postou a Meta em seu blog. "Ouvimos o feedback de que este recurso não atingiu o objetivo, portanto não está mais disponível." A TechCrunch entrou em contato com a Meta solicitando mais informações e atualizará o artigo se a empresa responder.
Desde sua integração com plataformas de mídia social, a IA tem sido usada indevidamente de forma desenfreada, frequentemente para gerar imagens nuas de celebridades femininas. As plataformas tentaram mitigar essa tendência, embora as proteções implementadas frequentemente tenham se mostrado insuficientes. No caso do recurso removido pela Meta, parecia óbvio que teria sido abusado dessa forma. De fato, Byers observa que a decisão de eliminar a ferramenta ocorreu "em meio ao escrutínio de usuários e agências de talentos, incluindo a CAA."
Este anúncio ocorre em contexto de pressão regulatória mais ampla sobre a Meta. Na sexta-feira, a Comissão Europeia anunciou que a Meta deve reformular os recursos de design viciante no Facebook e Instagram ou enfrentar multas. A Comissão Europeia afirmou que a empresa está em violação da Lei de Serviços Digitais ao focar em recursos como scroll infinito, reprodução automática, notificações push e algoritmos de recomendação altamente personalizados.
A Comissão afirma que esses recursos alimentam o impulso do usuário de continuar navegando e deslocam o cérebro para o "modo piloto automático", contribuindo para hábitos não saudáveis e uso compulsivo. A Comissão constatou que a Meta não avaliou adequadamente os riscos apresentados pelo design viciante de suas plataformas para o bem-estar físico e mental dos usuários, incluindo menores e adultos vulneráveis.
A Comissão também acusou a Meta de ignorar evidências sobre quanto tempo menores passam no Instagram e Facebook durante a noite e como recursos como Reels e Stories poderiam encorajar o uso excessivo ou compulsivo das plataformas. "As evidências também mostram que as medidas mitigadoras atuais da Meta falharam em lidar efetivamente com os riscos decorrentes do design viciante", escreveu a Comissão. "Por exemplo, as ferramentas de gerenciamento de tempo do Instagram e Facebook, incluindo as ativadas por padrão para adolescentes, podem ser facilmente descartadas e não levam a uma redução significativa e ao controle do uso do serviço."
A Comissão está exigindo que a Meta desabilite recursos viciantes principais, como reprodução automática e scroll infinito por padrão, e introduza pausas efetivas para o tempo de tela, além de modificar seu algoritmo de recomendação para torná-lo menos focado no engajamento do usuário. As conclusões não são finais, e a Meta terá oportunidade de revisar as evidências contra ela e apresentar uma resposta formal. Se as conclusões da Comissão forem confirmadas, a Meta enfrenta uma multa de até 6% de sua receita anual global total.
Este anúncio marca a segunda vez este ano que a Comissão Europeia encontrou a Meta em contravention de suas leis. Em abril, a Comissão constatou que a Meta estava falhando em impedir que crianças menores de 13 anos usassem Facebook e Instagram. A Meta também tem enfrentado escrutínio nos EUA por falhar em proteger usuários jovens em suas plataformas. Mais recentemente, a Meta afirmou em um documento judicial apresentado na segunda-feira que quatro estados americanos estão buscando 1,4 trilhão de dólares em penalidades sob as alegações de que a gigante tecnológica projetou Facebook e Instagram para viciar usuários jovens e que enganou o público sobre a segurança das plataformas.
Conteúdo reescrito pelo Pense Mercado com base nas fontes acima. Não constitui recomendação de investimento.