Uma sociedade pautada por um sistema de pontuação individual, em que pessoas com maiores notas tem mais vantagens, oportunidade e direitos sobre as demais. Essa é uma das premissas de um episódio da série distópica Black Mirror, porém já é possível traçar paralelos entre a realidade e a ficção, tendo como exemplo mais proeminente o polêmico sistema de crédito social da China.
Este sistema tem atraído a atenção da mídia e de governos ocidentais, que não raramente o relacionaram com a série e com outras obras distópicas. Inclusive o vice-presidente estadunidense, Mike Pence, descreveu-o como um “sistema Orwelliano com a premissa de controlar virtualmente todas as facetas da vida humana”.
Divulgado em um manifesto pelo Governo chinês em 2014 e com previsão de implementação para 2020, o sistema foi idealizado com o propósito de restaurar a confiança na relação entre a administração pública e cidadão, coibindo práticas fraudulentas, devedores contumazes e a corrupção.
Para isso, foi criado um procedimento de bonificação e incentivo para aqueles que têm hábitos tidos como positivos e de restrição de direitos, assim como ocorre no episódio Nosedive, para aqueles com pontuação mais baixa ou inclusos na blacklist do Governo.
Cabe pontuar que o sistema chinês ainda não foi completamente implementado e é complexo, dividindo-se entre o governamental e os particulares. Ambos coletam diferentes tipos de informações pessoais e têm diferentes propósitos, porém há previsão de uma possível integração dos sistemas, permitindo que o Governo tenha acesso aos bancos de dados particulares.
O cenário fica mais complicado em razão da ausência de proteção de dados na China, uma combinação de inexistência de leis sobre o assunto e despreocupação em criptografar os dados armazenados. Algo preocupante em situações de invasões nos sistemas e vazamentos.
Apesar do caso chinês poder ser considerado um extremo e ser favorecido pelo Governo totalitarista, a quantificação de pessoas tem se mostrado uma tendência entre o setor privado e, em certa medida, outros governos. Todos somos avaliados diariamente em razão de nossas escolhas, abra o aplicativo da Uber e você terá uma nota, assim como seu motorista; no Brasil se tem o Serasa Score que irá avaliar se você é um bom ou mal pagador. Nessa toada ainda se pode citar os métodos avaliativos de seguros e planos de saúde.
Com o advento da internet e da combinação entre inteligência artificial e big data, as empresas têm uma maior facilidade e precisão em avaliar seus usuários em razão da vasta quantidade de informações que deixamos online. Alguns dos beneficiários dessa conjunção são os sites de venda, como Ebay e Amazon, que elaboram perfis detalhados de seus clientes e das lojas que utilizam a plataforma e lhe atribuem notas para atestar sua segurança.
O que torna o sistema chinês controverso é a combinação única de inteligência artificial, big data e câmeras de reconhecimento facial, que acaba por abranger quase todas as searas da vida de uma pessoa, tendo acesso aos hábitos pessoais online e offline. E é esse potencial de vigilância e controle total que motivam as comparações do Governo chinês com o Grande Irmão de Orwell.
No entanto, antes de se criar um pandemônio, deve-se ter em mente que dificilmente o sistema será replicado em outras partes do globo, principalmente em razão da notória aversão da comunidade ocidental. A sociedade que vive em prol do ranking social visto em Nosedive permanece uma distante utopia.
Ainda assim resta a dúvida: devemos nos preocupar com as avaliações já existentes? Na prática, não. Além de serem casos pontuais, as notas têm o propósito de prevenir as empresas e o próprio usuário, senão vejamos. No caso do Serasa, ele é utilizado para prevenir a empresa de possíveis perdas em razão de fraudes e maus pagadores. Já com relação ao Uber, a nota serve para prevenir e proteger motoristas e passageiros.
Ademais tem-se o arcabouço jurídico formado pelas leis de proteção de dados, como a LGPD brasileira e o GDPR europeu, que visam salvaguardar as informações pessoais, principalmente os dados tidos como sensíveis (e.g. obre origem racial ou étnica, convicção religiosa, opinião política, etc.), condicionando sua coleta e seu tratamento, principalmente, ao consentimento.
Entretanto, fazendo o papel de profeta do apocalipse, deve-se considerar duas hipóteses trazidas pela LGPD brasileira: segurança nacional e interesse legítimo. A primeira é uma das exceções trazidas pelo inciso III do artigo 4º, determinando que a lei não será aplicada nos tratamentos de dados realizados “para fins exclusivos de a) segurança pública; b) defesa nacional; c) segurança do Estado; ou d) atividades de investigação e repressão de infrações penais”. Nesta hipótese se encaixa o reconhecimento facial já utilizado pelo Governo para localizar e identificar foragidos da justiça, implantado em aeroportos e testado em Campinas, sendo-o em outras cidades durante o carnaval.
A segunda hipótese é mais complexa, porquanto o termo utilizado não possui uma definição clara. Prevista no inciso IX do artigo 7º, ela determina que o tratamento de dados poderá ocorrer “quando necessário para atender aos interesses legítimos do controlador ou de terceiro, exceto no caso de prevalecerem direitos e liberdades fundamentais do titular que exijam a proteção dos dados pessoais”.
A lei descreve duas situações concretas, sendo elas o apoio e promoção de atividades do controlador e a “proteção, em relação ao titular, do exercício regular de seus direitos ou prestação de serviços que o beneficiem, respeitadas as legítimas expectativas dele e os direitos e liberdades fundamentais”, porém o rol trazido é exemplificativo.
Apenas a jurisprudência e a Agência Nacional de Proteção de Dados poderão delimitar o entendimento sobre interesse legítimo, no entanto essa incerteza quanto o entendimento correto do termo pode abrir margem para certos abusos.
Cabe citar alguns exemplos dado por Ricardo Oliveira, em seu artigo para o Valor Econômico, de situações interessantes e factíveis que poderiam ser consideradas interesse legítimo: o compartilhamento de dados entre o supermercado e o plano de saúde, de modo que este possa ter acesso aos hábitos alimentares de seus clientes, de modo a lhes conferir uma nota relativa aos seus possíveis riscos e doenças, influenciando diretamente o preço cobrado[1].
Ademais, o caso chinês é isolado e resultado da combinação de outros elementos particulares ao regime do país, dificilmente sendo replicado em outros locais. No caso brasileiro, a LGPD combinada com diversas outras leis pátrias, como o Marco Civil e o CDC, são suficientes para inibir o florescimento de situações teratológicas.
O sistema de avaliação de pessoas já é parte da nossa realidade e, com o advento de novas tecnologias, aprimorar-se-á cada vez mais, tornando-se cada vez mais presentes no cotidiano e sem representar uma ameaça aos direitos e liberdades das pessoas. Situações como a sociedade que vive em prol do ranking social em Black Mirror ainda podem ser consideradas distopias tecnológicas distantes, apenas ficção.
[1] OLIVEIRA, Ricardo. Tratamento de dados sem consentimento in Valor Econômico.
