O que é a ‘amplificação algorítmica’, que está na mira do governo dos EUA?

Projetos de lei tentam responsabilizar gigantes da tecnologia por comportamento de algoritmos em publicações nas redes sociais
Por David McCabe – The New York Times

A Meta (grupo que controla o Facebook, Instagram e WhatsApp), comandada por Mark Zuckerberg, é uma das empresas de tecnologia que podem ser reguladas pelo governo dos Estados Unidos

Os políticos passaram anos investigando como o discurso de ódio, a desinformação e o bullying nas redes sociais podem levar a danos no mudo real. Cada vez mais, eles chamam a atenção para os algoritmos por trás de sites como Facebook e Twitter, para o software que decide qual conteúdo os usuários verão e para quando isso acontecerá.

Alguns congressistas americanos, tanto democratas como republicanos, argumentam que, quando os sites de redes sociais impulsionam o desempenho de conteúdos de ódio ou violentos, tornam-se cúmplices. E eles propuseram projetos de lei para remover as proteções legais das empresas que permitem a elas evitar ações judiciais contra a maior parte do conteúdo postado por seus usuários, nos casos em que a plataforma ampliou o alcance de uma postagem prejudicial.

O Comitê de Energia e Comércio da Câmara dos Estados Unidos discutiu várias das propostas em uma audiência em 1.º de dezembro, quando contou com o depoimento de Frances Haugen, a ex-funcionária do Facebook que recentemente divulgou uma coleção de documentos internos reveladores da empresa.

Remover a proteção legal, conhecida como Seção 230, significaria uma mudança radical para a Internet, porque a lei há muito possibilita o grande volume de sites de redes sociais. Frances disse que apoia a alteração da Seção 230, que faz parte da Lei de Decência nas Comunicações, para que ela não inclua mais certas decisões tomadas por algoritmos em plataformas de tecnologia.

Mas o que exatamente conta como uma amplificação algorítmica? E qual é a definição precisa de prejudicial? As propostas oferecem respostas bem diferentes a essas perguntas importantes. E como elas forem respondidas pode determinar se os tribunais consideram os projetos de lei constitucionais.

Aqui está como os projetos de lei abordam essas questões controversas:

O que é amplificação algorítmica?

Os algoritmos estão por todos os lados. Basicamente, um algoritmo é um conjunto de instruções que dizem a um computador como fazer alguma coisa. Se uma plataforma pudesse ser processada todas as vezes em que um algoritmo fizesse algo em relação a uma postagem, produtos que os legisladores não estão tentando fiscalizar talvez fossem atingidos.

Algumas das leis propostas definem o comportamento que desejam regulamentar em termos gerais. Um projeto de lei apoiado pela senadora democrata por Minnesota, Amy Klobuchar, submeteria uma plataforma a ações judiciais se ela “impulsionasse” o alcance da desinformação sobre saúde pública.

O projeto de lei de Amy em relação à desinformação sobre saúde não faria nada contra as plataformas se o algoritmo delas promovesse conteúdo de forma “neutra”. Isso poderia significar, por exemplo, que uma plataforma que classifica o conteúdo postado em ordem cronológica não teria que se preocupar com a lei.

Outras legislações são mais específicas. Um projeto de lei da deputada democrata pela Califórnia, Anna Eshoo, e do deputado democrata por Nova Jersey, Tom Malinowski, define amplificação perigosa como fazer qualquer coisa para “classificar, organizar, impulsionar, recomendar, amplificar ou alterações semelhantes na entrega ou na exibição de informações”.

Outro projeto de lei redigido pelos democratas da Câmara especifica que as plataformas podem ser processadas apenas quando a amplificação em questão for influenciada pelos dados pessoais de um usuário.

“Essas plataformas não são espectadores passivos – elas estão conscientemente colocando os lucros acima das pessoas, e nosso país está pagando o preço”, disse o deputado Frank Pallone Jr., presidente do Comitê de Energia e Comércio dos EUA, em um comunicado ao anunciar a legislação.

O novo projeto de lei de Pallone inclui uma dispensa para qualquer empresa com no máximo 5 milhões de usuários mensais. Também exclui publicações que aparecem quando um usuário pesquisa algo, mesmo que um algoritmo os classifique, e a hospedagem na web e outras empresas que constituem o alicerce da Internet.

Qual conteúdo é prejudicial?

Os legisladores e outros profissionais chamam a atenção para uma grande variedade de conteúdos que consideram estar relacionados com danos no mundo real. Há teorias da conspiração, que poderiam levar alguns adeptos a se tornarem violentos. Publicações de grupos terroristas que poderiam incentivar agressões, como os parentes de um homem esfaqueado por um integrante do Hamas argumentaram ao processarem o Facebook. Outros formuladores de políticas expressaram preocupações em relação aos anúncios direcionados que levam à segregação habitacional.

A maioria dos projetos de lei atualmente em tramitação no Congresso combate tipos específicos de conteúdo. O projeto de lei de Amy foca na “desinformação sobre saúde”. Mas a proposta deixa nas mãos do Departamento de Saúde e Serviços Humanos dos EUA determinar o que exatamente isso significa.

“A pandemia de covid-19 nos mostrou como a desinformação pode ser letal e é nossa responsabilidade tomar uma atitude”, disse Amy ao anunciar a proposta, que foi coescrita pelo senador democrata pelo Novo México, Ben Ray Luján.

A legislação proposta por Anna e Malinowski tem uma perspectiva diferente. Ela se aplica apenas à amplificação de postagens que violem três leis – duas que proíbem violações dos direitos civis e uma terceira que tem como consequência o terrorismo internacional.

O projeto de lei de Pallone é o mais recente do conjunto e tem como foco qualquer conteúdo que “contribua significativamente com danos físicos ou emocionais graves a qualquer pessoa”. Esse é um elevado requisito legal: sofrimentos emocionais devem ser acompanhados de sintomas físicos. Mas o projeto abrange, por exemplo, uma adolescente que ao ver postagens no Instagram que diminuam tanto sua autoestima a façam tentar machucar a si mesma.

Alguns republicanos manifestaram preocupações em relação à proposta ao argumentar que ela encorajaria as plataformas a remover o conteúdo que deveria ser mantido. A deputada Cathy McMorris Rodgers, de Washington, a principal republicana do comitê, disse que essa era uma “tentativa levemente velada de pressionar as empresas a censurarem mais a expressão [dos usuários]”.

O que pensam os juízes?

Os juízes têm sido céticos em relação à ideia de que as plataformas devem perder sua imunidade legal quando amplificam o alcance do conteúdo.

No caso envolvendo a agressão pela qual o Hamas assumiu a responsabilidade, a maioria dos juízes que ficou sabendo do caso concordou com o Facebook que seus algoritmos não poderiam resultar na perda da proteção legal pelo conteúdo criado por usuários.

Se o Congresso criar uma dispensa para a proteção legal – e ela resistir ao escrutínio legal -, os tribunais podem ter que seguir seu exemplo.

Mas, se os projetos se tornarem leis, provavelmente suscitarão dúvidas significativas quanto a se violam as proteções de liberdade de expressão da Primeira Emenda.

O Judiciário decidiu que o governo não pode beneficiar um indivíduo ou uma eventual empresa na restrição de expressão que seria protegida pela Constituição de outra forma.

“A questão é: o governo pode proibir diretamente a amplificação algorítmica?”, perguntou Jeff Kosseff, professor de direito cibernético da Academia Naval dos EUA. “Isso vai ser difícil, principalmente se você estiver tentando dizer que não se pode amplificar certos tipos de discurso.” / TRADUÇÃO DE ROMINA CÁCIA

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair /  Alterar )

Foto do Google

Você está comentando utilizando sua conta Google. Sair /  Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair /  Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair /  Alterar )

Conectando a %s

Este site utiliza o Akismet para reduzir spam. Saiba como seus dados em comentários são processados.