Diego F. Aranha

Algoritmos são rotinas projetadas por um programador que determinam como um computador deve se comportar. Ao contrário da percepção comum, não há nenhuma garantia de que máquinas precisam funcionar como esperado, e seu funcionamento correto depende tanto da habilidade do programador em projetar algoritmos quanto de sua resistência a manipulações externas. Na imensa maioria dos casos, introduzir algoritmos ou computadores não elimina a intervenção humana, mas apenas transfere e amplifica o controle para humanos responsáveis pela implementação e operação do sistema.
Na medida que aspectos tecnologógicos controlam e mediam partes cada vez maiores e mais importantes de nossas vidas, nasce a área de transparência algorítmica, dedicada a projetar sistemas que fornecem evidências verificáveis de seu funcionamento justo. As aplicações são inúmeras e vão desde a <a href="http://www.pnas.org/content/112/33/E4512.full.pdf?with-ds=yes">ordenação enviesada nos resultados de uma máquina de busca</a> à mineração de dados para <a href="https://epic.org/privacy/travel/ats/">detecção de terroristas entre passageiros de avião</a>. Para dar uma idéia do tamanho do problema, escrever um programa que verifica se outro programa qualquer sempre funciona corretamente é <a href="https://pt.wikipedia.org/wiki/Problema_da_parada">uma tarefa insolúvel em computação</a>, de forma que outros mecanismos precisam ser utilizados para resolver problemas bem mais específicos.
No país, essa questão já foi levantada inúmeras vezes a respeito das garantias fornecidas pelo sistema de votação eletrônica utilizado em eleições oficiais. Para todos os propósitos práticos, o software de votação é *secreto* para os próprios eleitores, que terminam obrigados a confiar em seu correto funcionamento. Há um esforço periódico de auditoria por especialistas, mas as condições de trabalho são tão restritas que dificilmente uma equipe qualificada terá possibilidade de examinar uma porção significativa do sistema. Em 2012, liderei a equipe vencedora dos Testes Públicos do Sistema Eletrônico de Votação, ao explorar o comportamento nada imprevisível do <a href="https://sites.google.com/site/dfaranha/projects/relatorio-urna.pdf">mecanismo de embaralhamento para quebrar o sigilo do voto</a>. Desde então, edições sucessivas do evento introduziram um Termo de Confidencialidade que limita a natureza da informação disseminada publicamente por investigadores participantes. As várias tentativas de introduzir um registro físico do voto no sistema de votação demonstram claramente que a relação entre transparência e o Judiciário brasileiro não é das melhores.
A questão entra em pauta novamente com o <a href="https://www.jota.info/colunas/supra/distribuicao-dos-processos-no-supremo-e-realmente-aleatoria-25072016">sistema de distribuição aleatória de processos pelo Supremo Tribunal Federal</a>. É até curioso que novamente a pergunta recaia sobre aleatoriedade! O problema parece muito simples, tal como o de embaralhar votos: basta sortear números de maneira imprevisível dentro de um intervalo, como em uma loteria comum. O problema é que computadores não são capazes de gerar informação imprevisível por si só, mas apenas expandir a imprevisibilidade contida em outra informação ("semente") por operações aritméticas. <a href="https://www.nist.gov/programs-projects/nist-randomness-beacon">A semente deve então ser coletada preferencialmente de um fenômeno físico</a>. Ou seja, as condições iniciais do gerador são fundamentais para determinar se o sorteio pode ser manipulado ou não. As tentativas até agora de explicar como funciona o algoritmo do STF <a href="http://g1.globo.com/politica/operacao-lava-jato/noticia/fachin-e-escolhido-novo-relator-da-lava-jato-no-stf.ghtml">não relevam absolutamente nada de importante</a>, e o problema mora nos detalhes, então resta <a href="http://politica.estadao.com.br/noticias/geral,stf-tera-auditoria-externa-em-distribuicao-de-processos,70001651782">esperar por uma auditoria séria e com resultados públicos</a>. Mas como provar para um cidadão comum que o sistema correto está realmente em execução em momentos decisivos?
Há algumas soluções promissoras na literatura científica, que envolvem utilizar resultados de loterias múltiplas como semente de um gerador, <a href="https://cryptoexperts.github.io/million-dollar-curve/">permitindo que o comportamento correto seja verificado após o fato</a>. A vedete mais recente utiliza as chamadas blockchains, componentes de moedas eletrônicas como o Bitcoin, <a href="http://www.quanta.im/">para realizar o sorteio de maneira distribuída e verificável</a>. Transparência é um requisito fundamental para garantir o funcionamento correto de um sistema computacional de interesse público, por isso não deixemos que os algoritmos da Justiça faltem justamente com a justiça de seus resultados.

coding-1841550_1280

https://images.jota.info/wp-content/uploads/2021/09/copy-of-jota-logo-high-cmyk.jpeg

JOTA

Como provar que o sistema correto está realmente em execução em momentos decisivos?

Algoritmo Supremo: transparência e justiça

Como provar que o sistema correto está realmente em execução em momentos decisivos?