FERNANDO FIGUEIRAS, AUTOR DO LIVRO, ‘POLÍTICA DOS ALGORITMOS’: “PRECISAMOS DE CONTROLE DEMOCRÁTICO DOS ALGORITMOS”

É cada vez mais frequente em nossa sociedade a influência da tecnologia e dos algoritmos. Eles determinam se uma pessoa terá de pagar mais pelo seguro de saúde ou se terá o currículo pré-selecionado para uma vaga de trabalho, podendo influenciar até na pena de um crime, por exemplo.

O tema é abordado no livro Política dos Algoritmos, de Ricardo Mendonça, Fernando Figueiras e Virgílio Almeida, que acabou de ser lançado pela editora Ubu e traz um panorama atual sobre o assunto.

Filgueiras é professor associado na Faculdade de Ciências Sociais da Universidade Federal de Goiás e também atua como diretor de inovação da Secretaria de Gestão da Informação, Inovação e Avaliação de Políticas Educacionais do Ministério da Educação (MEC). Ao Conversa Bem Viver, ele explica o funcionamento das tecnologias e aponta como a sociedade deve se portar diante desse fenômeno.

“Algoritmos são um novo tipo de instituição que emerge nas sociedades contemporâneas. Como os sistemas algorítmicos são estatísticos e usam cálculos para chegar a causalidades, acabamos transferindo a desigualdade via dados ou pela própria construção intencional dos algoritmos. A direção essencial é produzir um processo de democratização e de controle democrático dos algoritmos”, analisa.

Confira a entrevista completa:

Brasil de Fato: No livro, vocês trazem o conceito do algoritmo como novas instituições que vêm transformando as regras da vida social e do jogo político. Como devemos fazer essa relação?

Fernando Filgueiras: Partimos da ideia de que algoritmos nada mais são do que regras de processamento de informações e de dados para produzir um determinado resultado intencional. Partimos dessa ideia, relativamente simples, mas bastante complexa: algoritmos são um novo tipo de instituição que emerge nas sociedades contemporâneas. Esse é o ponto de partida do livro.

Mas precisamos entender algumas questões antes de entrar propriamente na construção dessa tese. Primeiro, este livro é um grande esforço interdisciplinar, pegando contribuições da sociologia, da ciência política e das humanidades com a ciência da computação. Pelo perfil dos três autores: o Virgílio é professor titular de ciência da computação; eu e o Ricardo somos da ciência política, mas o Ricardo tem forte formação em comunicação e eu mais na sociologia. O livro é esse esforço para entender o alcance dessas tecnologias emergentes.

Uma segunda questão importante: não estamos falando apenas de inteligência artificial. Estamos falando de sistemas computacionais de uma forma mais ampla. O fato é que hoje temos uma presença muito grande desses sistemas em diferentes facetas da nossa vida, o que tem produzido uma nova forma de institucionalização.

E aí entramos no primeiro problema: o que são instituições? Instituições não são propriamente um governo, o Judiciário ou o Legislativo. Isso são organizações políticas. Mas toda organização, para funcionar, precisa de um escopo de regras que estabelecem uma intencionalidade e procedimentos.

Ou seja, instituições nada mais são do que normas e regras; no jargão da ciência política, instituições são as “regras do jogo”. Temos instituições como sistemas eleitorais, o sistema legislativo (sobre como as leis são criadas) ou sistemas governamentais, que definem como uma sociedade é governada por meio de um conjunto de regras que estabelecem o escopo das decisões coletivas.

Gosto de fazer uma analogia com crianças brincando coletivamente. A primeira coisa que elas definem é a regra do jogo, que estabelece papéis: quem está com o “pique”, até onde se pode chegar e qual a ordem de alternância. Em todos os lugares, as regras definem papéis, limites, escolhas e ações coletivas.

O que vemos hoje é uma presença gradativa de sistemas algorítmicos em diferentes facetas da vida. Na comunicação, por exemplo, que hoje é feita sobretudo nas redes sociais e na comunicação política, onde os partidos investem muitos recursos. Em cada rede social, existe uma regra de processamento daquilo que será visível, quem pode ver o quê e quando. Isso é definido pelos algoritmos. Isso impacta as instituições tradicionais, como os sistemas eleitorais, que enfrentam problemas com o uso de fake news, desinformação, bolhas e câmaras de eco, mudando a própria dinâmica das escolhas políticas da sociedade.

Outro exemplo é que os governos, em todas as esferas, são cada vez mais digitais. O livro dedica um capítulo inteiro à discussão de governos digitais. Hoje, a prática do serviço público e a forma como ele é prestado são definidas algoritmicamente. Na esfera internacional e na ciência, há o uso cada vez maior de algoritmos sofisticados de inteligência artificial para produzir conhecimento. No mundo contemporâneo, há um processo de desinstitucionalização de práticas tradicionais e uma reinstitucionalização a partir de regras estabelecidas por sistemas computacionais.

Ao estudarmos o livro e outras fontes, deparamo-nos com um problema emergencial: esses algoritmos não são neutros. O livro aborda isso na segurança pública, citando um exemplo de 2020, em Salvador, quando a polícia, por meio de um aplicativo de reconhecimento facial chamado FaceCheck, prendeu 42 pessoas durante o Carnaval. O que esse caso evidenciou?

Vou pegar a questão da segurança pública, mas antes quero voltar ao tema do racismo, que é um bom elemento para discutir essa nova institucionalização. O racismo já existia antes das tecnologias digitais. Nas instituições burocráticas, universidades ou na prática cotidiana, o racismo sempre foi muito presente na sociedade brasileira e nas Américas em geral. Nós, como humanos, temos um viés racial que gera desigualdades, assimetrias e processos violentos de exclusão.

A digitalização não é um processo neutro e isso se reflete nos dados. Os dados crus podem demonstrar, por exemplo, que o grupo que mais pratica determinados crimes no Brasil são homens pretos. Do ponto de vista da sociologia, sabemos que isso ocorre por uma série de fatores ligados a desigualdades estruturais. Quando digitalizamos o serviço público e olhamos apenas o dado cru, o sistema pode inferir que quem praticará um crime é um homem preto jovem.

A questão é a consequência que damos a essa informação. Sistemas de reconhecimento facial têm dificuldades com desigualdades e vieses raciais, tendendo a reproduzir resultados enviesados porque não consideram nuances. O fato de estatisticamente algo ser frequente não significa que um indivíduo, tomado isoladamente, seja um praticante de crime.

Como os sistemas algorítmicos são estatísticos e usam cálculos para chegar a causalidades, acabamos transferindo a desigualdade via dados ou pela própria construção intencional dos algoritmos.

Sistemas de reconhecimento facial erram bastante porque não absorvem diferenças raciais ou étnicas. Estudos no Canadá mostraram que esses sistemas em aeroportos eram extremamente enviesados contra pessoas com características que sugeriam origem muçulmana. Portanto, a institucionalização via algoritmos — a digitalização do mundo — não significa que as desigualdades deixarão de existir. Mesmo sendo funções matemáticas racionais, algoritmos podem ser grandes reprodutores de desigualdades.

Há intencionalidade nesses erros?

Sim, existe uma intencionalidade. Todo sistema é construído com um propósito. Na ciência da computação, a construção de um sistema se justifica pela otimização organizacional. Uma empresa pode coletar dados para personalizar padrões de consumo, ou um governo pode querer racionalizar uma política pública.

Um sistema bancário não pode falhar; ele é calibrado com precisão para garantir o acesso do cliente à conta. Por outro lado, muitas falhas são intencionais. Pode-se calibrar sistemas para perseguir determinadas populações. Estudos em países asiáticos mostram sistemas feitos para identificar e perseguir minorias étnicas ou religiosas.

Vivemos um momento de regulamentação no Brasil, seja de streaming ou de inteligência artificial, buscando responsabilizar as Big Techs. Como devemos caminhar em relação a essas ferramentas algorítmicas? 

O livro não oferece uma resposta única, mas a direção essencial é produzir um processo de democratização e de controle democrático dos algoritmos — o conceito de accountability democrática da ciência política. Precisamos questionar a atuação das empresas de tecnologia. Hoje vemos um oligopólio das Big Techs que controlam o fluxo de informação global para interesses diversos.

Devemos discutir de maneira madura e serena como produzir esse controle democrático. Esse é o ponto de chegada do livro e um convite para a sociedade debater as consequências dessa institucionalização via algoritmos.