Como responsabilizar a mídia social por minar a democracia

A invasão do edifício do Capitólio dos EUA na quarta-feira por uma multidão de insurrecionistas pró-Trump foi chocante, mas não foi surpreendente para quem acompanhou a crescente proeminência de teóricos da conspiração, grupos de ódio e fornecedores de desinformação on-line. Embora a culpa pelo incitamento do presidente Trump à insurreição seja dele, as maiores empresas de mídia social - principalmente meu antigo empregador, o Facebook - são absolutamente cúmplices. Elas não só permitiram que Trump mentisse e semeasse a divisão durante anos, como também seus modelos de negócios exploraram nossos preconceitos e fraquezas e favoreceram o crescimento de grupos de ódio e máquinas de indignação que falam de conspiração. Elas fizeram isso sem assumir qualquer responsabilidade pela forma como seus produtos e decisões comerciais afetam nossa democracia; nesse caso, inclusive permitindo que uma insurreição fosse planejada e promovida em suas plataformas. Essa informação não é nova. Eu, por exemplo, já escrevi e falei sobre como o Facebook lucra amplificando mentiras, fornecendo ferramentas de segmentação perigosas para agentes políticos que buscam semear divisão e desconfiança, polarizando e até mesmo radicalizando os usuários. À medida que nos aproximávamos da eleição de 2020, um coro de líderes de direitos civis, ativistas, jornalistas e acadêmicos escreveu recomendações, condenou publicamente o Facebook e, de forma privada, apoiou propostas de políticas de conteúdo; funcionários se demitiram em protesto; anunciantes boicotaram; legisladores realizaram audiências. Os eventos da semana passada, no entanto, colocam esses fatos sob uma nova luz - e exigem uma resposta imediata. Na ausência de leis nos EUA que abordem a responsabilidade da mídia social de proteger nossa democracia, cedemos a tomada de decisões sobre quais regras escrever, o que aplicar e como conduzir nossa praça pública aos CEOs de empresas de Internet com fins lucrativos. O Facebook escalou intencional e implacavelmente para dominar a praça pública global, mas não assume nenhuma das responsabilidades dos administradores tradicionais de bens públicos, incluindo a mídia tradicional. Chegou a hora de definir a responsabilidade e responsabilizar essas empresas pela forma como elas auxiliam e estimulam a atividade criminosa. E é hora de ouvir aqueles que gritaram durante anos sobre essas questões, em vez de permitir que os líderes do Vale do Silício ditem os termos. Precisamos mudar nossa abordagem não apenas por causa do papel que essas plataformas desempenharam em crises como a da semana passada, mas também por causa da forma como os CEOs responderam - ou não responderam. As decisões reacionárias sobre o conteúdo a ser retirado, as vozes a serem rebaixadas e os anúncios políticos a serem permitidos se resumiram a ajustes nas margens do problema maior: um modelo de negócios que recompensa as vozes mais altas e extremas. No entanto, parece não haver vontade de enfrentar esse problema. Mark Zuckerberg só optou por bloquear a conta de Trump depois que o Congresso dos EUA certificou Joe Biden como o próximo presidente dos Estados Unidos. Dado esse momento, essa decisão parece mais uma tentativa de se aconchegar ao poder do que um pivô em direção a uma administração mais responsável de nossa democracia. E, embora a decisão de muitas plataformas de silenciar Trump seja uma resposta óbvia a esse momento, ela não aborda a forma como milhões de americanos foram atraídos por teorias da conspiração on-line e levados a acreditar que essa eleição foi roubada - uma questão que nunca foi realmente abordada pelos líderes da mídia social. Uma olhada no feed do Twitter de Ashli Babbit, a mulher que foi morta ao invadir o Capitólio, é reveladora. Veterana da Força Aérea há 14 anos, ela passou os últimos meses de sua vida retuitando teóricos da conspiração como Lin Wood - que finalmente foi suspenso do Twitter no dia seguinte ao ataque (e, portanto, desapareceu de seu feed) - seguidores do QAnon e outros que pediam a derrubada do governo. Um perfildo New York Times a descreve como uma veterana que lutou para manter seu negócio e que estava cada vez mais desiludida com o sistema político. É grande a probabilidade de que a mídia social tenha desempenhado um papel significativo em levá-la à toca do coelho das teorias da conspiração, mas nunca saberemos realmente como o conteúdo dela foi selecionado, quais grupos foram recomendados a ela, para quem os algoritmos a orientaram. Se o público, ou mesmo um órgão de supervisão restrito, tivesse acesso aos dados do Twitter e do Facebook para responder a essas perguntas, seria mais difícil para as empresas alegarem que são plataformas neutras que apenas mostram às pessoas o que elas querem ver. A jornalista do Guardian , Julia Carrie Wong, escreveu em junho deste ano sobre como os algoritmos do Facebook continuavam recomendando grupos QAnon para ela. Wong fez parte de um coro de jornalistas, acadêmicos e ativistas que alertaram incansavelmente o Facebook sobre como esses teóricos da conspiração e grupos de ódio não estavam apenas prosperando nas plataformas, mas como seus próprios algoritmos estavam amplificando seu conteúdo e recomendando seus grupos aos usuários. O ponto principal é o seguinte: Não se trata de liberdade de expressão e do que os indivíduos publicam nessas plataformas. Trata-se do que as plataformas decidem fazer com esse conteúdo, quais vozes elas decidem amplificar, quais grupos podem prosperar e até mesmo crescer com a ajuda dos algoritmos das próprias plataformas. Então, para onde vamos a partir daqui? Há muito tempo defendo que os governos devem definir a responsabilidade pelos danos reais causados por esses modelos de negócios e impor custos reais pelos efeitos prejudiciais que estão tendo em nossa saúde pública, em nossa praça pública e em nossa democracia. Atualmente, não há leis que regulem como as empresas de mídia social tratam anúncios políticos, discurso de ódio, teorias de conspiração ou incitação à violência. Essa questão é indevidamente complicada pela Seção 230 da Lei de Decência nas Comunicações, que foi interpretada de forma excessiva para fornecer imunidade geral a todas as empresas de Internet - ou "intermediários da Internet" - para qualquer conteúdo de terceiros que hospedem. Muitos argumentam que, para resolver alguns desses problemas, a Seção 230, que data de 1996, deve pelo menos ser atualizada. Mas como, e se ela por si só resolverá os inúmeros problemas que enfrentamos agora com as mídias sociais, é um assunto muito debatido. Uma solução que continuo a defender é o esclarecimento de quem deve se beneficiar da Seção 230 para começar, o que geralmente se divide no debate entre editor e plataforma. Ainda categorizar as empresas de mídia social - que fazem a curadoria de conteúdo, cujos algoritmos decidem qual discurso deve ser amplificado, que direcionam os usuários para o conteúdo que os manterá engajados, que conectam os usuários a grupos de ódio, que recomendam teóricos da conspiração - como "intermediários da Internet" que devem gozar de imunidade contra as consequências de tudo isso é mais do que absurdo. A noção de que as poucas empresas de tecnologia que dirigem a forma como mais de 2 bilhões de pessoas se comunicam, encontram informações e consomem mídia desfrutam da mesma imunidade que uma empresa de Internet verdadeiramente neutra deixa claro que é hora de atualizar as regras. Elas não são apenas um intermediário neutro. No entanto, isso não significa que precisamos reescrever completamente ou eliminar a Seção 230. Em vez disso, por que não começar com uma etapa mais restrita, redefinindo o que significa um "intermediário da Internet"? Então, poderíamos criar uma categoria mais precisa para refletir o que essas empresas realmente são, como "curadores digitais" cujos algoritmos decidem qual conteúdo impulsionar, o que amplificar, como fazer a curadoria do nosso conteúdo. E podemos discutir como regulamentar de maneira apropriada, concentrando-nos em exigir transparência e supervisão regulatória das ferramentas, como mecanismos de recomendação, ferramentas de segmentação e amplificação algorítmica, em vez de regulamentar o discurso real. Ao insistir na transparência real em relação ao que esses mecanismos de recomendação estão fazendo, como a curadoria, a amplificação e a segmentação estão acontecendo, poderíamos separar a ideia de que o Facebook não deveria ser responsável pelo que um usuário publica da responsabilidade de como suas próprias ferramentas tratam esse conteúdo. Quero que responsabilizemos as empresas não pelo fato de alguém publicar informações incorretas ou retórica extrema, mas pela forma como seus mecanismos de recomendação as divulgam, como seus algoritmos direcionam as pessoas para elas e como suas ferramentas são usadas para atingir as pessoas com elas. Para ser claro: criar as regras de como governar o discurso on-line e definir a responsabilidade das plataformas não é uma varinha mágica para corrigir os inúmeros danos que emanam da Internet. Essa é uma peça de um quebra-cabeça maior de coisas que precisarão mudar se quisermos promover um ecossistema de informações mais saudável. Mas se o Facebook fosse obrigado a ser mais transparente sobre como está amplificando o conteúdo, sobre como suas ferramentas de segmentação funcionam, sobre como usa os dados que coleta sobre nós, acredito que isso mudaria o jogo para melhor. Enquanto continuarmos a deixar que as plataformas se autorregulem, elas continuarão a se limitar a mexer nas margens das políticas de conteúdo e moderação. Já vimos que o tempo para isso já passou há muito tempo - o que precisamos agora é reconsiderar como toda a máquina é projetada e monetizada. Até que isso aconteça, nunca abordaremos verdadeiramente como as plataformas estão ajudando e incentivando aqueles que pretendem prejudicar nossa democracia.

Como responsabilizar a mídia social por minar a democracia

Resumo.

Partner Center