Matemática moral x identidade de gênero

O algoritmo não vencerá

André Fischer

N° Edição: 48

Publicado em: 24/11/2020

Categoria: A Revista, Colunas Móveis, Destaque

Still de Facial Weaponization Communiqué: Fag Face (2012), de Zach Blas (Foto: Cortesia do artista)

A matemática é interpretada, há muito tempo, como abordagem racional para dar sentido a tudo ao nosso redor. Mas foi a partir do fim do século passado que apostamos, como projeto de civilização, no desenvolvimento de sistemas e aplicativos mediando processos em todas as esferas da nossa existência. A recente aceleração da migração para o ambiente digital explicitou a necessidade de decisões estratégicas, éticas e morais sobre identidades de gênero e sobre o próprio modelo de sociedade. No cerne dessa revolução digital está a programação e, evidentemente, a matemática. Os algoritmos, a base da programação, são a aplicação prática do pensamento matemático ao processamento de informações. Por isso, a ciência da computação pode ser considerada uma filosofia contemporânea que constrói (e neste caso também materializa) novas possibilidades de ser e estar. Assim como os filósofos, o que os programadores fazem é criar interpretações da realidade. Algoritmos “pensam” como quem os criou, geralmente são fruto de concepções patriarcais, machistas e binárias sobre gênero e orientação sexual. Suas visões de mundo heteronormativas, que entendem como “padrão” e que muitas vezes são lgbtfóbicas, costumam excluir a existência de transexuais e de pessoas que não se encaixam nas gavetas homem-mulher. Em seus códigos-fonte buscam enquadrar características biológicas a padrões de comportamento e consumo determinados, reforçando antigos estereótipos de gênero, como se vagina e pênis fossem fatores inexoráveis na elaboração de desejos ou pensamentos.

Esses algoritmos moralistas estão por toda parte. Dos assistentes virtuais domésticos aos novos aplicativos de reconhecimento facial, cada vez mais presentes, de metrôs a shoppings. Alguns destes chegaram ao mercado alardeando reconhecer se uma pessoa é gay ou lésbica com margens de acerto de 90%.

Fag Face Mask – October 20 (2012), de Zach Blas (Foto: Cortesia do artista)

Para identificar se é homem ou mulher cisgênero a precisão seria de 98%. Porém, não conseguem reconhecer pessoas trans em 30% dos casos. Isso, se forem brancas, já que não foram programados para reconhecer pessoas com pele negra. Sequer são capazes de avaliar as que se autodenominam não binárias ou de gênero fluido, o que as tornaria literalmente invisíveis para organizações que começam a usar esses aplicativos, como a polícia e a imigração em aeroportos.

Outro exemplo explícito é a maneira como mecanismos de busca relacionam palavras ligadas a identidades de gênero e orientações sexuais a padrões morais retrógrados. Até meados de 2019, ao se digitar “lésbica” no Google, eram invariavelmente listados sites pornô entre os primeiros resultados. Uma provável causa para essa tendência preconceituosa pode ser o fato de que apenas 10% das pessoas que trabalham com Inteligência Artificial na empresa sejam mulheres. Foram necessários protestos inflamados de grupos de militância LGBT para que a empresa alterasse seus códigos e as consequentes entregas, como já havia acontecido anteriormente com os termos “homossexual” e “transexual”. Empresas de tecnologia, governos e toda a sociedade precisam monitorar os impactos de vieses morais dos algoritmos através do estabelecimento de bases éticas. Algo que o papa Francisco já chamou de “Algorética” e que está sendo discutido no Congresso dos Estados Unidos através do Algorithmic Accountability Act (Lei de Responsabilidade Algorítmica).

Sistemas de decisões automatizados são baseados em interesses ideológicos e/ou comerciais e têm como objetivo final forjar opiniões, condicionar comportamentos e influenciar desejos. Algoritmos podem facilmente mudar a opinião de uma pessoa, conseguem até manipular seu comportamento temporariamente. No entanto, ainda que possam reforçar preconceitos, não são, nem serão, capazes de aprisionar desejos, apagar identidades de gênero ou alterar orientações sexuais. Pelo menos por enquanto.

Tags: , ,

Nota de esclarecimento A Três Comércio de Publicações Ltda. (EDITORA TRÊS) vem informar aos seus consumidores que não realiza cobranças por telefone e que também não oferece cancelamento do contrato de assinatura de revistas mediante o pagamento de qualquer valor. Tampouco autoriza terceiros a fazê-lo. A Editora Três é vítima e não se responsabiliza por tais mensagens e cobranças, informando aos seus clientes que todas as medidas cabíveis foram tomadas, inclusive criminais, para apuração das responsabilidades.