Senadores cobram respostas do TikTok sobre experimento que desativou proteções
Dois senadores dos Estados Unidos enviaram carta ao TikTok exigindo respostas sobre um experimento conduzido pela plataforma que desativou uma funcionalidade de segurança para milhões de usuários americanos, entre eles um adolescente que posteriormente faleceu por suicídio. A Senadora Marsha Blackburn (R-TN) e o Senador Richard Blumenthal (D-CT), ambos co-patrocinadores de um projeto de lei sobre segurança infantil online, descreveram a decisão da empresa como "depravada".
Segundo relatório da Bloomberg Businessweek publicado neste mês, o TikTok desativou intencionalmente uma salvaguarda algorítmica de 10% dos usuários americanos, criando um grupo de controle para o experimento. Essa salvaguarda havia sido projetada para impedir que usuários fossem expostos a conteúdo prejudicial e para quebrar câmaras de eco online que disseminam material nocivo. Naquele momento, esse grupo de controle teria compreendido aproximadamente 15 milhões de pessoas. A empresa conduziu o teste para determinar se a proteção tornaria o aplicativo menos envolvente.
Em um documento confidencial da empresa de 2023, posteriormente entregue em litígio contra as maiores empresas de redes sociais do mundo e lacrado por ordem judicial, fica claro que um dos participantes do grupo de controle foi Chase Nasca, de 16 anos, residente em Bayport, Nova York. De acordo com o documento, o algoritmo da conta de Chase o alimentou com milhares de vídeos sobre tristeza, falta de esperança, solidão e suicídio até o momento em que ele faleceu por suicídio. Chase foi selecionado aleatoriamente para o experimento de algoritmo em 25 de janeiro de 2022. Dentro de um mês, ele estava morto.
O documento explica por que a conta de Chase recebeu o que descreveu como um "bombardeio" de conteúdo obscuro: "As estratégias de prevenção de bolha de filtro do TikTok não entraram em efeito neste usuário por design". O material também esclarece o motivo pelo qual a empresa desativou a configuração de segurança para alguns usuários: "A decisão de impacto do usuário foi um equilíbrio delicado entre segurança e a capacidade de medir o impacto nos DAU (usuários ativos diários) e nas métricas principais".
Em carta com quatro páginas enviada na quarta-feira aos executivos do TikTok, os senadores afirmaram: "Escrevemos em relação aos relatos repugnantes de que o TikTok conscientemente reteve uma medida crítica de segurança para milhões de usuários americanos — incluindo crianças — a fim de determinar se proteger usuários impactaria seu resultado financeiro". Os senadores caracterizaram as revelações da reportagem da Businessweek como "alarmantes", argumentando que elas "levantam sérias questões sobre as garantias repetidas do TikTok ao Congresso, aos pais e ao público americano de que ele prioriza a segurança e o bem-estar de jovens sobre lucro".
Os senadores estão demandando respostas para 13 perguntas relacionadas ao experimento, incluindo os nomes de cada funcionário que tinha conhecimento sobre o teste e as razões pelas quais o TikTok permitiu que menores participassem do grupo de controle. Também estão solicitando uma lista de todos os experimentos algorítmicos conduzidos nos EUA nos quais a rede social desativou ou atrasou uma funcionalidade de segurança. O TikTok recebeu prazo até 1º de setembro para responder às indagações. A empresa não respondeu imediatamente a pedido de comentário.
Conteúdo reescrito pelo Pense Mercado com base nas fontes acima. Não constitui recomendação de investimento.