Filipe Medon

Em meio às controvérsias acerca da vigência da Lei Geral de Proteção de Dados Pessoais, foi publicado no último dia 26 de agosto o Decreto nº 10.474/2020, que estabelece a estrutura da Autoridade Nacional de Proteção de Dados Pessoais (ANPD), além de disciplinar sua natureza, finalidades e competências.
Dentre as inúmeras questões que surgem com o Decreto, é preciso considerar a regulamentação que este confere a importante foco de atuação da recém criada Autoridade: a realização de auditoria para verificação de aspectos discriminatórios em tratamento automatizado de dados pessoais.
Como já vem sendo amplamente discutido, em pouco tempo, as principais decisões que dizem respeito à vida das pessoas serão tomadas total ou preponderantemente com base em tratamento automatizado de dados. Da seleção para uma vaga de emprego, à concessão de crédito, passando pela abordagem policial nas ruas: o processo decisório por trás dessas ações será eminentemente fundado em algoritmos comandados por Inteligência Artificial,<a href="#_ftn1" name="_ftnref1">[1]</a>-<a href="#_ftn2" name="_ftnref2">[2]</a> sob o argumento de uma suposta neutralidade dos algoritmos.<a href="#_ftn3" name="_ftnref3">[3]</a>
<a href="https://conteudo.jota.info/risco-politico"><img class="aligncenter wp-image-244336 size-full" src="https://www.jota.info/wp-content/uploads/2020/04/cta-risco-politico.png" alt="" width="1080" height="1080" /></a>
A autoridade, antes confiada à divindade e posteriormente aos seres humanos, é agora delegada aos algoritmos, que passam a ter poder de decisão sobre a vida e os corpos das pessoas.<a href="#_ftn4" name="_ftnref4">[4]</a>
Esses algoritmos são dotados de verdadeira “onisciência diacrônica”, na expressão de Andrejevic e Burdon,<a href="#_ftn5" name="_ftnref5">[5]</a> isto é, “quando se reúnem dados suficientes, torna-se possível, além de aplicar algoritmos preditivos do futuro, capturar também o passado.”<a href="#_ftn6" name="_ftnref6">[6]</a>
E não se trata apenas de mera captura ou predição, mas de uma aparente verdade matemático-estatística, que tem levado a danos diante da cegueira deliberada quanto ao resultado produzido por tais algoritmos. Trata-se do “paradigma de Pôncio Pilatos”: entrega-se a decisão para o algoritmo e lavam-se as mãos, nesta que tem sido chamada de “a caixa-preta” dos algoritmos, que conduziria, na festejada síntese de Frank Pasquale, a uma “black box society”.<a href="#_ftn7" name="_ftnref7">[7]</a>
<blockquote class="jota-article__eye">Clama, assim, a doutrina por uma maior transparência sobre o processo decisório desses algoritmos, por meio de direitos de explicação, bem como por uma atuação direta na programação dos algoritmos, apta a neutralizar matematicamente os vieses cognitivos que levam a resultados discriminatórios.</blockquote>
É esta a conclusão dos estudos de Anupam Chander, para quem, diversamente do que defende Frank Pasquale, a solução não estaria apenas na maior transparência, mas antes em programar os algoritmos para impedir a discriminação. Um atuar positivo, como uma verdadeira ação afirmativa<a href="#_ftn8" name="_ftnref8">[8]</a><a href="#_ftn9" name="_ftnref9">[9]</a>, diante da inevitabilidade de que algoritmos neutros tenderão a ser influenciados pelos dados viciados de uma sociedade marcadamente preconceituosa.
Segundo Chander, em vez de transparência no design do algoritmo, é preciso que haja transparência nos inputs e nos outputs. Dever-se-ia focar, por conseguinte, no resultado dos algoritmos.<a href="#_ftn10" name="_ftnref10">[10]</a>
Seja como for, apesar de divergências pontuais na doutrina, parece não haver dúvidas de que deve ser conferido aos titulares de dados pessoais todo um conjunto de mecanismos de tutela em face de decisões automatizadas, especialmente em relação àquelas tendentes a apresentar resultados discriminatórios, capazes de limitar ou condicionar o acesso das pessoas a bens e serviços na sociedade. Em última instância, quer-se evitar a chamada “Ditadura dos Algoritmos”, na incisiva expressão de Stefano Rodotà.<a href="#_ftn11" name="_ftnref11">[11]</a>
A Lei Geral de Proteção de Dados Pessoais, inspirada pelo Regulamento Geral de Proteção de Dados Europeu, a GDPR, trouxe, assim, em seu artigo 20 o direito de o titular de dados “solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluídas as decisões destinadas a definir o seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade.”
Para a efetivação deste direito, previu em seu parágrafo primeiro o chamado direito à explicação, assim dispondo que: “o controlador deverá fornecer, sempre que solicitadas, informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados para a decisão automatizada, observados os segredos comercial e industrial”. No entanto, ressalvou que os controladores poderão limitar a explicação fornecida caso seja necessário preservar seus segredos comerciais e industriais.
Se a norma terminasse aí, criaria verdadeira injustiça, conferindo poderes extremamente intensos aos controladores, que estariam sempre em situação de vantagem em relação aos titulares de dados pessoais, já que poderiam dar explicações insuficientes em nome dos segredos.
Essa disparidade é corrigida pelo parágrafo segundo do mesmo artigo, que dispõe que: “em caso de não oferecimento de informações de que trata o § 1º deste artigo baseado na observância de segredo comercial e industrial, a autoridade nacional poderá realizar auditoria para verificação de aspectos discriminatórios em tratamento automatizado de dados pessoais”.
Ou seja, como uma forma de conciliar o segredo com a explicação, o legislador previu que caso o controlador restrinja a explicação para proteger seu modelo de negócio, a Autoridade Nacional de Proteção de Dados, enquanto órgão independente, poderia atuar para verificar a existência de aspectos discriminatórios.
E o Decreto nº 10.474/2020 vem justamente regulamentar essa atuação da ANPD, ao dispor em seu art. 4º, inciso IV, alínea “b”, que compete ao Conselho Diretor, órgão máximo de direção da ANPD segundo o art. 3º, §1º do mesmo Decreto, determinar a realização de auditoria para verificação de aspectos discriminatórios em tratamento automatizado de dados pessoais, na hipótese de não atendimento ao disposto no § 1º do art. 20 da LGPD.
Quer isto dizer, conforme exige o §2º do art. 20 da LGPD, caso o controlador não forneça informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados para a decisão automatizada, por conta de seus segredos comercial e industrial, a Autoridade Nacional poderá realizar auditoria para verificação de aspectos discriminatórios, cujo órgão competente será o Conselho Diretor.
De acordo com o art. 12 do Decreto, o Conselho Diretor é composto por cinco membros indicados pelo Ministro de Estado Chefe da Casa Civil da Presidência da República e nomeados pelo presidente da República, após aprovação pelo Senado Federal, nos termos do disposto na alínea “f” do inciso III do caput do art. 52 da Constituição da República.
Diretamente relacionada a essa atuação de verificação de aspectos discriminatórios no tratamento automatizado está a vedação contida no §2º do art. 11 do Decreto, segundo o qual: “é vedado ao membro do Conselho Diretor utilizar informações privilegiadas obtidas em decorrência do exercício do cargo”.
Trata-se de uma forma de buscar preservar os segredos comercial e industrial apontados pelo §1º do art. 20 da LGPD, afinal, se o poder público, por meio de sua Autoridade, adentra no núcleo duro dos algoritmos daquele modelo de negócio, o mínimo que poderia fazer é estabelecer a vedação da utilização das informações eventualmente obtidas nessa verificação de aspectos discriminatórios.
Além disso, é extremamente fundamental que essa atuação do Conselho Diretor seja desempenhada com muita responsabilidade e zelo, uma vez que a obrigatoriedade de revisão das decisões automatizadas por pessoa natural foi suprimida do texto do caput do art. 20 da LGPD. É preciso, com efeito, que o Conselho Diretor busque compensar esse prejuízo, diante da supressão desta importante salvaguarda para os titulares dos dados.
Um dos principais desafios nesta atuação será, sem dúvidas, assegurar a independência dos membros do Conselho Diretor. Neste sentido, o art. 6º do Decreto dispõe em seu parágrafo único que os cargos dos membros do Conselho Diretor são de dedicação exclusiva, não admitida a acumulação, exceto as constitucionalmente permitidas.
Resta, contudo, uma questão de relevância colossal: quem efetivamente realizará a auditoria a ser determinada pelo Conselho Diretor? A literalidade da lei é no sentido de que caberá ao Conselho Diretor “determinar” a realização das auditorias.
No entanto, é preciso saber: quem a fará em concreto? Como será feita essa escolha? Será realizada por servidores técnicos? Por terceiros contratados especialmente para este fim? Fato é que parece não haver dúvidas de que as mesmas vedações impostas aos membros do Conselho devem ser estendidas a quem efetivamente for realizar as atividades de verificação de aspectos discriminatórios, dada a sua singularidade e relevância.
Por ora, resta-nos aguardar cenas dos próximos capítulos, torcendo para que nas páginas seguintes desse folhetim a proteção de dados pessoais e a efetivação das garantias dos direitos dos titulares de dados pessoais tenham um final feliz.
&nbsp;
<hr />
<a href="#_ftnref1" name="_ftn1">[1]</a> EUBANKS, Virginia. Automating inequality: How high-tech tools profile, police,and punish the poor. (edição digital) Nova Iorque: St. Martin's Press, 2018, p. 8.
<a href="#_ftnref2" name="_ftn2">[2]</a> DONEDA, Danilo; MENDES, Laura Schertel;  SOUZA, Carlos Affonso; ANDRADE, Norberto Nuno Gomes de. Considerações iniciais sobre inteligência artificial, ética e autonomia pessoal. Pensar, Fortaleza, v. 23, n. 4, p. 1-17, out./dez. 2018. p. 4.
<a href="#_ftnref3" name="_ftn3">[3]</a> MEDON, Filipe. Inteligência Artificial e Responsabilidade Civil: autonomia, riscos e solidariedade. Salvador: JusPodivm, 2020.
<a href="#_ftnref4" name="_ftn4">[4]</a> HARARI, Yuval Noah. Homo Deus: uma breve história do amanhã. (Trad. Paulo Geiger). São Paulo: Companhia das Letras, 2016, p. 194.
<a href="#_ftnref5" name="_ftn5">[5]</a> ANDREJEVIC, Mark; BURDON, Mark. Defining the Sensor Society. Television &amp; New Media, 16, n. 1, jan. 2015, p. 30.
<a href="#_ftnref6" name="_ftn6">[6]</a> MORAIS, José Luis Bolzan de; NETO, Elias Jacob de Menezes. Análises computacionais preditivas como um novo biopoder: modificações do tempo na sociedade dos sensores. Revista Novos Estudos Jurídicos – Eletrônica, vol. 24, n. 3, set-dez. 2018, p. 1135.
<a href="#_ftnref7" name="_ftn7">[7]</a> PASQUALE, Frank. The Black Box Society: The Secret Algorithms That Control Money and Information. Cambridge: Harvard University Press, 2015, p. 218.
<a href="#_ftnref8" name="_ftn8">[8]</a> CHANDER, Anupam. The Racist Algorithm? In: Michigan Law Review, vol. 115:1023, Abril de 2017, p. 1041.
<a href="#_ftnref9" name="_ftn9">[9]</a> EUBANKS, Virginia. Automating inequality: How high-tech tools profile, police,and punish the poor. (edição digital) Nova Iorque: St. Martin's Press, 2018, p. 152.
<a href="#_ftnref10" name="_ftn10">[10]</a> CHANDER, Anupam. The Racist Algorithm? In: Michigan Law Review, vol. 115:1023, Abril de 2017, p. 1039.
<a href="#_ftnref11" name="_ftn11">[11]</a> RODOTÀ, Stefano. Il mondo nella rete: quali i diritti, quali i vincoli. Roma-Bari: Laterza, 2014 (edição eletrônica), p. 41

pexels-pixabay-159299

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

É necessária uma doutrina com uma maior transparência sobre o processo decisório desses algoritmos

Verificação de aspectos discriminatórios em tratamento automatizado de dados

É necessária uma doutrina com uma maior transparência sobre o processo decisório desses algoritmos