O povo contra Zuckerberg: o controle de conteúdo em redes sociais


04163232777275-t1200x480O Facebook anunciou a eliminação de dezenas de perfis e contas da rede social, por suposta violação dos termos de uso (ou convivência) na comunidade virtual, que congrega mais de dois bilhões de pessoas. Cerca de 196 páginas e 87 contas teriam sido desativadas, por se chocarem com os “padrões da comunidade”, um conjunto de regras “que detalham o que é ou não permitido no Facebook”. 

No cerne da discussão estão as fake news (os velhos boatos), a liberdade de expressão e as eleições nacionais que se avizinham, uma vez que os perfis e contas atingidos pertenceriam a organizações ou ativistas de direita e extrema-direita.


Fake news e a lei penal

A necessidade de reprimir a disseminação de notícias falsas, caluniosas, difamatórias ou injuriosas não é uma novidade. Calúnia, difamação e injúria são tradicionalmente punidos como crimes contra a honra no Código Penal. No contexto eleitoral, o Código Eleitoral (Lei 4.737/1965) já se ocupava dessas práticas. Segundo o art. 243, inciso IX, do CE, não será tolerada propaganda “que caluniar, difamar ou injuriar quaisquer pessoas, bem como órgãos ou entidades que exerçam autoridade pública“, prevendo o direito de resposta para os ofendidos.

No campo penal eleitoral, os arts. 323 a 327 da Lei 4.737/1965 têm relevância. Ressalto o primeiro desses crimes, que consiste em divulgar, na propaganda eleitoral, fatos que sabe inverídicos, em relação a partidos ou candidatos e capazes de exercerem influência perante o eleitorado. A pena é de 2 meses a 1 ano de detenção, ou multa. O parágrafo único prevê que a pena é agravada se o crime é cometido pela imprensa, rádio ou televisão.

Já o crime do art. 324, que também compreende a divulgação de informação sabidamente falsa, ocorrerá quando o autor caluniar alguém, na propaganda eleitoral, ou visando fins de propaganda, imputando-lhe falsamente fato definido como crime. A pena será de 6 meses a 2 anos de detenção e multa. Conforme o §1º do art. 324, nas mesmas penas incorre quem, sabendo falsa a imputação, a propala ou divulga, condutas muito comuns em redes sociais.

Os arts. 325 e 326 cuidam respectivamente dos delitos de difamação e injúria eleitoral, que não exigem a falsidade da expressão ou da notícia divulgada

Embora tenha entrado em vigor em 1965, antes da invenção da Internet, o art. 327, inciso III, do Código Eleitoral, tem regra útil para punir mais gravemente situações que ocorram no ciberespaço, pois prevê o aumento de pena, de um terço, quando os crimes anteriormente mencionados forem praticados “por meio que facilite a divulgação da ofensa”. 

Portanto, em termos de fake news ou boataria não vivenciamos um estado de anomia. Se não inteiramente reguladas, há regulamentação mínima sobre comportamentos abusivos.


Política de convivência

A novidade é a dimensão desse fenômeno nas redes sociais e a capacidade aumentada de disseminação de boatos, calúnias e campanhas difamatórias graças às tecnologias da informação.

Neste cenário novo, haverá tensões entre o Estado e os indivíduos (cidadãos, eleitores ou candidatos) e entre estes e as plataformas ou provedores de aplicações de Internet, como o Twitter, o Facebook, o Instagram e outras redes sociais.

Quando uma plataforma de comunicação restringe a participação de pessoas (não importa o espectro político a que pertençam) ou cassa seu direito de expressão, com ou sem análise do conteúdo do discurso ou da mensagem difundida, há um interesse transindividual a tutelar. Esta tarefa cabe ao Judiciário, em regra mediante provocação do lesado ou do Ministério Público, como órgão de defesa dos interesses difusos, coletivos e individuais indisponíveis da sociedade, seja contra o Estado, outros indivíduos ou pessoas jurídicas, nacionais ou estrangeiras.

As plataformas como Facebook e Twitter têm (e podem ter) regras de conveniência, que são devidamente publicadas e compõem os termos de uso. São regras às quais os usuários devem aderir quando se associam ao serviço. Porém, os espaços de interação transnacional que essas plataformas criam não estão imunes à jurisdição dos Estados onde seus usuários vivem. As plataformas não são soberanias. Por isso, sujeitam-se ou devem sujeitar-se, mesmo quando não queiram, às constituições e às leis locais dos países onde operam.

Plataformas como o Facebook assemelham-se a uma “cidade virtual”. Nelas há espaços para negócios, entretenimento, cultura, educação, relacionamentos afetivos, engajamento social e debate político. Assim, não se pode negar que deve haver regras de urbanidade (digital) a observar, para além das regras de netiqueta, que compõem o conjunto de padrões de comportamento ou costumes considerados civilizados e aceitos no meio digital. Porque estamos falando de relações entre indivíduos e entre estes e empresas, é inegável que os provedores do serviço também devem, por sua vez, aderir às regras da soberania onde se inserem.

Isto significa que os termos de uso ou as políticas da comunidade virtual devem dialogar com o texto constitucional e respeitá-lo, bem como cumprir a legislação pertinente, que, no caso brasileiro, é, sobretudo, o Marco Civil da Internet (Lei 12.965/2014), que, em breve, terá a companhia da Lei Geral de Proteção de Dados Pessoais.


A remoção de conteúdo de redes sociais

Na questão da remoção de conteúdo considerado abusivo ou irregular, há uma notável tensão entre esses termos de uso e a liberdade de expressão (inclusive de expressão política). Neste tópico, os provedores de aplicações de internet devem, ademais, orientar-se voluntariamente por mecanismos de autorregulação, tais como os Princípios de Santa Clara, relativos à moderação de conteúdo em redes sociais.

São três os Princípios de Santa Clara, aprovados em 2018, na referida cidade californiana, por um grupo de acadêmicos, especialistas e organizações não governamentais, entre as quais a Electronic Frontier Foundation, a American Civil Liberties Union e o Center for Democracy and Technology:

1. Dever de divulgação de números de contas ou perfis atingidos por moderação, como suspensão, remoção de conteúdo ou banimento; 

2. Dever de notificação ao usuário quanto à remoção do conteúdo e aos motivos da remoção ou da suspensão da conta ou perfil; 

3. Possibilidade de recurso, mediante a previsão de mecanismos internos ou externos à entidade.

Ressaltando a sua natureza de autorregulação, o advogado Thiago Vieira, especialista em direito digital, aborda muito bem tais Princípios aqui. Seus enunciados se inspiram nos Princípios de Asilomar, de 1975, sobre engenharia genética, bioética e biossegurança.

As dimensões deste problema são globais e multitudinárias. Segundo Alex Hern, em artigo em The Guardian, entre outubro e dezembro de 2017, o YouTube teria removido 8,3 milhões de vídeos de sua plataforma por violação às diretrizes da comunidade, especialmente aquelas que proíbem conteúdo violento, extremista, abusivo ou ofensivo.

O YouTube informou em um de seus relatórios de moderação que 6,7 milhões desses vídeos foram assinalados como violadores por softwares. Máquinas habilitadas com algoritmos, usuários comuns e usuários credenciados podem marcar ou apontar (to flag) vídeos que mereçam revisão para eventual remoção.

Mas os usuários devem ser notificados dessas remoções, com a ciência dos motivos para a punição, numa espécie de devido “processo” relacional com as companhias mantenedoras dessas plataformas, que, em última análise, prestam um serviço de grande interesse público na sociedade da informação e da comunicação.


A liberdade de expressão no ciberespaço

A Constituição e os tratados de direitos humanos asseguram a liberdade de expressão. No entanto, em certos espaços das cidades de concreto e aço, tal liberdade sofre naturais restrições, pela destinação que se dá a tais ambientes ou pela própria natureza deles. Igrejas, hospitais, escolas, prédios públicos, salas de sessões de tribunais têm suas próprias regras de urbanidade e de convivência. Não falar, manter silêncio, falar em voz baixa, falar apenas quando autorizado etc são diversas formas de restrição à liberdade fundamental em questão. 

Assim também ocorre nas “cidades virtuais”, de elétrons e bytes, e nos seus vários espaços dedicados à interação humana e que, por isto mesmo, devem também sujeitar-se às leis estatais. Ubi societas ibi jus. Onde está a sociedade aí também deve estar o Direito. A necessidade de convivência ordenada das pessoas faz surgir a necessidade de regras impositivas. Esta necessidade se faz ainda mais presente no ambiente caótico e, aparentemente, livre da Internet.

relações privadas presencais intensamente reguladas e que estão sujeitas a judicialização em caso de conflito. Condomínios, clubes de lazer, escolas, sindicatos, associação civis formam comunidades que se autorregulam, mas que não escapam a algum tipo de correção judiciária, quando existam conflitos entre seus membros ou entre estes e a pessoa jurídica com a qual se vinculam.

Nas plataformas sociais, considerados o seu propósito comunicacional, sua utilidade pública e a natureza do serviço que prestam, isso também é inevitável. Já está vencido o debate sobre se a Internet é regulável ou não. O ciberespaço não é terra de ninguém. Nem a Deep Web e a Dark Net, a Internet profunda, escapam à atuação do Estado no cumprimento das leis penais ou na proteção dos direitos humanos. Relações humanas que se perfectibilizem nesses ambientes virtuais estão sujeitas a acertamento no mundo jurídico.

O ciberespaço e suas diferentes interações oferecem inúmeros desafios ao direito digital. A proteção do free speech e da urbanidade eletrônica nas novas praças públicas (verdadeiras ágoras digitais) está entre os bens jurídicos (e valores) da sociedade da informação que merecem autorregulação dos provedores e atuação subsidiária do Estado, quando os mecanismos de controle e compliance unilateral não funcionarem.


A utilidade do Marco Civil da Internet 

Ao focar no papel do Estado, encontramos no Marco Civil da Internet (MCI), de saída, relevantes dispositivos, nos arts. 2º, 3º e 4º da Lei 12.965/2014. A disciplina do uso da internet no Brasil tem como fundamento o respeito à liberdade de expressão; deve seguir, entre outros princípios, a garantia da liberdade de expressão, comunicação e manifestação de pensamento, nos termos da Constituição Federal; e tem por objetivo a promoção do direito de acesso à internet a todos e do acesso à informação, ao conhecimento e à participação na vida cultural e na condução dos assuntos públicos.

Quanto ao conteúdo das manifestações dos usuários de redes sociais, o art. 19 do MCI institui algumas regras fundamentais, embora ainda insuficientes, ao afirmar o dever de provedores de aplicações de Internet (entre os quais estão as plataformas sociais) de remover conteúdo infringente à honra, à reputação, a direitos de personalidade, ou a direitos autorais.

Justamente para impedir a censura e assegurar a liberdade de expressão, a responsabilidade civil dos provedores ocorrerá “por danos decorrentes de conteúdo gerado por terceiros” (usuários) quando a empresa de Internet não cumprir ordem de remoção de conteúdo, no prazo assinalado pela autoridade judiciária.

Art. 19.  Com o intuito de assegurar a liberdade de expressão e impedir a censura, o provedor de aplicações de internet somente poderá ser responsabilizado civilmente por danos decorrentes de conteúdo gerado por terceiros se, após ordem judicial específica, não tomar as providências para, no âmbito e nos limites técnicos do seu serviço e dentro do prazo assinalado, tornar indisponível o conteúdo apontado como infringente, ressalvadas as disposições legais em contrário.

De forma semelhante ao que um dos Princípios de Santa Clara propõe, o art. 20 do MCI obriga, desde 2014, o provedor de aplicações de Internet a contactar o usuário responsável pelo conteúdo a que se refere o art. 19 da lei, para comunicar-lhe os motivos da indisponibilização de conteúdo,com informações que permitam o contraditório e a ampla defesa em juízo, salvo expressa previsão legal ou expressa determinação judicial fundamentada em contrário.

Ademais, no Brasil e noutros países o princípio da neutralidade da Internet é previsto em lei. Aqui entrou no art. 9º do MCI. Sua não observância pode afetar o direito de acesso à informação e restringir a ciberdifusão de certos conteúdos.

Todo conteúdo na internet deve ser tratado isonomicamente pelos provedores. A empresa responsável pela transmissão, comutação ou roteamento de dados “tem o dever de tratar de forma isonômica quaisquer pacotes de dados, sem distinção por conteúdo, origem e destino, serviço, terminal ou aplicação“. Ademais, no serviço de conexão à internet, oneroso ou gratuito, “é vedado bloquear, monitorar, filtrar ou analisar o conteúdo dos pacotes de dados“. 

Todos esses novos direitos digitais podem ser apreciados pelo Judiciário, em ações individuais ou de tutela coletiva, como deixa claro o art. 30 do MCI, que se conjuga, no particular, com o Código de Processo Civil e com a Lei de Ação Civil Pública:

Art. 30.  A defesa dos interesses e dos direitos estabelecidos nesta Lei poderá ser exercida em juízo, individual ou coletivamente, na forma da lei.

Outros ciberdireitos também merecem enforcement estatal, como a privacidade e intimidade, inclusive no que se refere ao tratamento de dados pessoais. Se acreditarmos que o Estado nada tem a ver com a Internet e que nela não deve intervir jamais, não haverá garantia de que os dados pessoais e as mensagens dos usuários de plataformas de interação serão protegidos contra intrusões, vazamentos, bloqueios, censura, imposição de tráfego mais lento e outras práticas ilícitas de responsabilidade dos provedores de aplicações de Internet ou dos provedores de conexão.

Arquivo 29-07-2018 09 21 36


As ameaças aos cidadãos no mundo digital

A moderação de conteúdo por esses gigantes da Internet não é, assim, um tema banal, que não mereça preocupação da sociedade ou dos órgãos estatais. Boatos, notícias falsas, ou caluniosas podem e devem ser marcadas, assinaladas e/ou removidas do ciberespaço, observadas as premissas antes postas. Tal remoção pode ser feita voluntariamente pelo provedor, ou mediante provocação da pessoa lesada ou ainda por determinação judicial, mas sempre com critérios objetivos e claros e divulgação transparente em proveito do autor do conteúdo, da conta ou do perfil implicado, para que não se acoberte a censura ou a perseguição.

Retirando o véu das paixões políticas, não será difícil perceber que os cidadãos são continuamente ameaçados em seus direitos fundamentais e de personalidade pelos Estados mas também pelos grandes conglomerados cibernéticos. Diante dos tubarões e das rêmoras do mar digital, navegar com segurança, privacidade e liberdade é preciso. A rede deve conectar pessoas; não emaranhá-las. Deve assegurar e promover direitos; nunca ferir garantias fundamentais dos usuários e de terceiros.

Por estes e outros motivos, a moderação de conteúdo é necessária e ganha dimensão diante do moderno império das fake news. O poder do moderador, quando mal exercido, pode ter evidente impacto na liberdade de expressão, quando não presente nenhuma violação dos termos de uso dos serviços de comunicação ofertados pelos provedores de aplicações de Internet.


O código é a lei

O professor Lawrence Lessig consagrou expressão muito importante no direito da Internet: “Code is law”. Quem escreve e controla os códigos (de programação, que estabelecem a arquitetura e os modos de funcionamento da rede) faz as leis da Internet e a controla. Normalmente, essa arquitetura está sob controle exclusivo dos grandes potentados da economia digital, tão ameaçadores aos direitos individuais quanto o Estado. Diz Lessig:

Cyberspace has an architecture; its code — the software and hardware that defines how cyberspace is — is its architecture. That architecture embeds certain principles; its sets the terms on which one uses the space; it defines what’s possible in the space. 

Não há dúvida de que ao codificar aplicações, habilitar ou desabilitar funcionalidades, autorizar ou desautorizar usos e estabelecer regras de convivência, os titãs da rede podem violar nossos direitos de expressão de forma tão grave quanto os governos. E podem manipular massas ou contribuir para que isto ocorra. Basta ver o que já ocorre com as bolhas algorítmicas, que nos guiam para dentro de nossos próprios gostos, nos apartando da divergência e da diversidade de pensamentos e de ideias cujo entrechoque é salutar numa democracia. O “código”, que é o algoritmo, escolhe o que veremos e, com isto, molda nossos comportamentos.


Falsa identidade ou pseudônimos?

Perfis falsos violam o termo de uso das plataformas. Isto é um fato. Mas cuidado. O que se chama de “perfil falso” pode ser simplesmente a materialização da intenção de anonimato, que se assegura com uma abreviatura, com siglas, com um apelido ou com um heterônimo. Nome fictício, pseudônimo, criptônimo etc não são a mesma coisa que falsa identidade.

Conhecer a autoria é importante. Porém, mais importante, no que concerne às fake news, é considerar o conteúdo divulgado, porque somente o exame da mensagem, da postagem ou do discurso é capaz de revelar as informações falsas, o discurso de ódio ou a incitação à violência, ou a existência de uma atuação concertada.

O que merece discussão é se a liberdade de expressão abrange o direito de mentir, ludibriar e enganar e, em que medida, o Estado e as plataformas de convivência no ciberespaço podem controlar ou suprimir esse tipo de manifestação.

Qualquer pessoa pode abrir um perfil no Facebook ou no Twitter ou no Instagram com pseudônimo? Acho que ninguém discordará que sim, é possível, e, apesar de certas restrições nos termos de uso, isso ocorre não raras vezes. Um rápido exame dessas plataformas mostrará com que frequência isto ocorre. Porém, a regra 17 dos Padrões da Comunidade restringe a representação falsa no Facebook, que exige “que as pessoas se conectem com o nome real”.

Por isso, de novo, o que tem maior relevância para a comunidade e os indivíduos na relação com os provedores de aplicações de internet é o conteúdo, não apenas o nome no perfil: discurso de ódio, incitação à violência, apologia ao crime e, como interessa em períodos eleitorais, a realização de operações sistemáticas de propaganda para influenciar eleições ou movimentos de massa.

No referido item 17 da política de uso do Facebook, a plataforma orienta seus usuários a não se envolverem em “comportamento não autêntico, que inclui criar, gerenciar ou perpetuar contas falsas, contas com nomes falsos, contas que participam de comportamentos não autênticos coordenados, ou seja, em que múltiplas contas trabalham em conjunto com a finalidade de enganar as pessoas sobre a origem do conteúdo (…) enganar as pessoas na tentativa de incentivar compartilhamentos, curtidas ou cliques“. 

O Facebook informou que as 196 páginas e 87 contas desativadas no Brasil o foram por sua suposta participação em “uma rede coordenada que se ocultava com o uso de contas falsas no Facebook, e escondia das pessoas a natureza e a origem de seu conteúdo com o propósito de gerar divisão e espalhar desinformação. A parte em negrito é referência clara ao conteúdo difundido pelos perfis, e sua relevância se apresenta ao exame da regra 18 das políticas do site, que dizem respeito exatamente a notícias falsas. Segundo a plataforma, postagens falsas não são removidas, mas sua distribuição e exposição são reduzidas no feeed de notícias. 


Os abusos das plataformas sociais

O escândalo da empresa de mineração de dados Cambridge Analytica, que teve acesso a dados de milhões de eleitores para influenciar a eleição presidencial de 2016 nos Estados Unidos mediante marketing eleitoral direcionado, mostra que o problema da manipulação das redes sociais para fins ilegítimos é real, tendo atingido 87 milhões de pessoas apenas naquele país. O escândalo resultou numa investigação do Congresso dos Estados Unidos e em pelo menos uma ação coletiva (class action) proposta na Justiça Federal em San Francisco, por investidores do Facebook contra a companhia, que acabou perdendo valor de mercado.

Além do fenômeno das notícias falsas, caluniosas, difamatórias ou discriminatórias, que encontram tratamento na legislação eleitoral já vigente, no Código Penal e na Lei 7.716/1989, bolhas algorítmicas montadas pelos códigos matemáticos implantados pelos provedores também servem para manipular pessoas e podem influenciar comportamentos, nas relações sociais, nas relações de consumo e no debate político.

Contas certificadas, como as do Twitter; o uso de técnicas tradicionais de moderação chamadas de shadow banning ou ghost banning, imperceptíveis para o usuário atingido; o uso de filtros de conteúdo; a promoção ou restrições de visibilidade de certos conteúdos, contas ou perfis, dando-lhes maior ou menor relevância nas buscas, ou relevância alguma, enfim, tudo isto pode ser implantado, programado ou manipulado pelas plataformas, pondo em risco a privacidade e a liberdade de expressão dos usuários, a neutralidade da rede e de suas aplicações mais populares, e a legitimidade de eleições.


Conclusão

Estaríamos melhor servidos se as plataformas digitais agissem com maior transparência, esclarecendo com mais detalhes a metodologia para identificação dos violadores, para a confirmação da “ilegalidade” das postagens ou do conteúdo e prevendo a possibilidade de revisão da moderação por ouvidores ou ombudsmen independentes da plataforma, diante da irresignação de algum usuário.

Se as plataformas sociais não se autorregularem para respeitar os direitos digitais de seus usuários e as leis vigentes, inclusive no que diz respeito à disseminação massiva e coordenada de boatos (fake news), é certo que o Estado o fará, por intermédio do Poder Judiciário. Que ideias como as de Santa Clara abram nossos olhos. A moderação de conteúdo nas plataformas sociais não pode ficar nas sombras.

 


[publicado originalmente no Estadão, aqui, em 30 de julho de 2018] 

Anúncios

2 comentários

  1. Excelente, professor.

    Caso não haja ainda um tema interessante para a próxima postagem, sugiro (se é que me permite) uma abordagem holística das diferentes forma de cooperação jurídica internacional hoje, após alguns novos marcos jurídicos.

    Curtir

Deixe um comentário

Faça o login usando um destes métodos para comentar:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair /  Alterar )

Foto do Google+

Você está comentando utilizando sua conta Google+. Sair /  Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair /  Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair /  Alterar )

w

Conectando a %s