Adam Harvey: descolonizador de algoritmos

O artista aponta as ambivalências da Inteligência Artificial com projetos que mostram o poder dos dados para o controle social e para a defesa dos direitos humanos

Giselle Beiguelman

N° Edição: 48

Publicado em: ANO 09, Nº 48, Set/Out/Nov 2020

Categoria: A Revista, Destaque, Reportagem

MegaPixels (2017-2019), plataforma desenvolvida por Adam Harvey e Jules LaPlace. Investiga a ética, a origem e as implicações da privacidade de imagens armazenadas em bancos de dados públicos para usos em sistemas de reconhecimento facial (Fotos: Adam Harvey / Reprodução)

Adam Harvey é um artista-pesquisador com foco nas estéticas da vigilância. Combina procedimentos do campo da moda e da comunicação com as ciências da computação. É a partir dessa composição sui generis que opera no campo da arte, com obras que colocam em pauta a privacidade e os meandros opacos dos processos algorítmicos. Ficou internacionalmente conhecido com uma série de maquiagens e penteados criados no seu mestrado na New York University, desenvolvidos para enganar câmeras de Reconhecimento Facial, o CV Dazzle. O Look Book arrojado desse trabalho, desenvolvido entre 2010 e 2014, teve seis versões. Com ele enfrentou o desafio de criar uma camuflagem que funcionasse politicamente, desfuncionalizando os mecanismos da visão computacional, e como estilo, no campo da moda conceitual. Deu certo.

, CV Dazzle (2010-2020), projeto de mestrado defendido na NYU que explora como a moda pode ser usada para camuflagem de tecnologias de reconhecimento facial. Da esq. para
a dir.: CV Dazzle Look 1. 2010; CV Dazzle Look 2. 2010 (para DIS Magazine); CV Dazzle Look 3. 2010 (para DIS Magazine); CV Dazzle Look 4. 2010 (CV Dazzle Look 4. para DIS Magazine).

Daí em diante, toda uma pedagogia voltada para educar o público para as novas formas de controle, distribuídas nos aplicativos e redes sociais mais comuns, foi se consolidando e usando os mais variados formatos. São pôsteres, como a série Think Privacy (2018), incialmente comissionada pelo New Museum de Nova York, e capas antirrastreamento para celulares, como o OFF Pocket (2013), que integra a coleção do britânico Victoria and Albert Museum, entre outros dispositivos.

Think Privacy, campanha de conscientização
sobre uso dos dados em curso, desde
2016. Em formato de pôsteres, foi exposta
na loja do New Museum, Victoria and
Albert Museum e Bienal de Seul

Formado em engenharia e fotojornalismo pela Universidade do Estado da Pensilvânia, Harvey é mestre pelo Programa de Telecomunicação Interativa da Universidade de Nova York (ITP-NYU). Baseado em Berlim, é membro do Grupo de Inteligência Artificial e Filosofia da Mídia da Universidade de Arte e Design de Karlsruhe (Alemanha). Seus projetos mais recentes, MegaPixels e VFRAME, são produto dessa formação para lá de transdisciplinar.

Think Privacy, campanha de conscientização
sobre uso dos dados em curso, desde
2016. Em formato de pôsteres, foi exposta
na loja do New Museum, Victoria and
Albert Museum e Bienal de Seul

A SELFIE DE HOJE É O PERFIL BIOMÉTRICO DE AMANHÃ
No primeiro caso, ele volta ao tema do Reconhecimento Facial, abordado em CV Dazzle e em outras obras, porém colocando ênfase nos seus aspectos éticos e investigando o papel dos bancos de dados on-line na expansão da vigilância biométrica. Tecnologia baseada em aprendizado de máquina, um dos pilares da Inteligência Artificial (IA), o Reconhecimento Facial funciona a partir de duas operações: o rastreamento e a extração.

  • Modelos de bombas de fragmentação utilizados no treinamento de algoritmos de reconhecimento de imagens em vídeo usados no projeto VFRAME, em desenvolvimento desde 2018
  • Modelos de bombas de fragmentação utilizados no treinamento de algoritmos de reconhecimento de imagens em vídeo usados no projeto VFRAME, em desenvolvimento desde 2018
  • Modelos de bombas de fragmentação utilizados no treinamento de algoritmos de reconhecimento de imagens em vídeo usados no projeto VFRAME, em desenvolvimento desde 2018

O rastreamento é a tradução geométrica dos pontos nodais, como a distância entre os olhos, o comprimento do nariz e o tamanho do queixo. Esses pontos são medidos por algoritmos e o resultado dessas equações é a leitura facial. No processo de extração, as características individuais que particularizam um rosto e o diferenciam de outros são calculadas também por algoritmos. Os cálculos que individualizam as imagens são feitos por meio de comparações com outras imagens da pessoa, disponibilizadas nos datasets (conjunto de dados organizados), provenientes da incontável quantidade de imagens que despejamos on-line.

Dito de outra forma, como alertava um dos pôsteres mais conhecidos da série Think Privacy, “a selfie de hoje é o seu perfil biométrico de amanhã”. E é navegando contra essa filosofia que a plataforma MegaPixels se coloca. A partir de uma coleção de gigantescos datasets disponíveis na internet, como o MS-Celeb, da Microsoft, e o Brain Wash, de um café em São Francisco, entre outros, inclusive de universidades, Harvey, em parceria com Jules LaPlace, investiga a rota de origem e destino dessas imagens.

Os resultados são, no mínimo, assustadores. Foram coletadas no projeto 24 milhões de fotos não consensuais (isto é, sem que o fotografado tenha ideia de que sua foto foi reutilizada) em 30 datasets de análise facial. Todas estão disponíveis na internet, in the wild, como se diz em jargão da área. Dessas imagens, mais de 15 milhões de retratos vêm de mecanismos de busca, outros quase 6 milhões do Flickr, cerca de 2,5 milhões do Internet Movie Database e quase 500 mil de câmeras de vigilância CCTV. Há, aproximadamente, 1 milhão de identidades arquivadas nesses 24 milhões de fotos. E essa é apenas uma amostra dos resultados parciais do MegaPixels. O projeto mostra também que apenas 25% das citações feitas a esses datasets em artigos acadêmicos são de instituições dos EUA. A vasta maioria é feita da China.

MegaPixels (2017-2019), plataforma desenvolvida por Adam Harvey e Jules LaPlace. Investiga a ética, a origem e as implicações
da privacidade de imagens armazenadas em bancos de dados públicos para usos em sistemas de reconhecimento facial

Aparece aí uma situação mapeada pelos professores Nick Couldry (London School of Economics and Political Science) e Ulises Mejias (State University of New York), que defendem a tese da emergência de um neocolonialismo dos dados, um Cloud Empire, no qual a China e os Estados Unidos são protagonistas. Descolonizar os dados passa, segundo os autores, por mobilizar novas formas de pensar o mundo, incorporando pressupostos do pensar coletivo indígena e, entre outras ações, a elaboração de táticas de contra- -apropriação dos mecanismos de dominação hegemônica.

CONTRAMODELO À VIGILÂNCIA ALGORÍTMICA
É nessa última perspectiva que opera o mais ambicioso projeto de Harvey até o momento, VFRAME (2019), acrônimo para Visual Forensics and Metadata Extraction. Realizado com o Arquivo Sírio, uma organização dedicada a documentar crimes de guerra, tem como foco a identificação, em vídeos captados nas zonas de guerra, de bombas de fragmentação. Conhecidas como armas-contêineres, bombas de fragmentação são bombas que carregam outros artefatos explosivos. São uma das criações mais horrendas da Alemanha nazista e que continuam sendo usadas nas guerras do Oriente Médio, especialmente na Síria.

O VFRAME é um instrumento para denunciar a presença dessas bombas, que são proibidas em 120 países. Antes que se pergunte, o Brasil não é signatário dos tratados internacionais que as proíbem. Produz e exporta esse tipo de armamento. Um dos maiores problemas por esse tipo de armamento é que as bombas podem permanecer intactas, enterradas por muitos anos, atingindo a população civil. Nos últimos cinco anos, 77% das mortes por bombas de fragmentação ocorreram na Síria. Em 2017, das 289 mortes ocorridas, 187 foram registradas ali.

  • Protótipo do sistema de detecção de bombas de fragmentação em território sírio desenvolvido para a ONG Arquivo Sírio no projeto VFRAME, em curso desde 2018.
  • Protótipo do sistema de detecção de bombas de fragmentação em território sírio desenvolvido para a ONG Arquivo Sírio no projeto VFRAME, em curso desde 2018.
  • Protótipo do sistema de detecção de bombas de fragmentação em território sírio desenvolvido para a ONG Arquivo Sírio no projeto VFRAME, em curso desde 2018.
  • Protótipo do sistema de detecção de bombas de fragmentação em território sírio desenvolvido para a ONG Arquivo Sírio no projeto VFRAME, em curso desde 2018.
  • Protótipo do sistema de detecção de bombas de fragmentação em território sírio desenvolvido para a ONG Arquivo Sírio no projeto VFRAME, em curso desde 2018.
  • Protótipo do sistema de detecção de bombas de fragmentação em território sírio desenvolvido para a ONG Arquivo Sírio no projeto VFRAME, em curso desde 2018.

O VFRAME usa modelagem 3D e fabricação digital, combinados a um software de processamento de imagem com ferramentas de visão computacional e Inteligência Artificial para detectá-las. Seus algoritmos são capazes de organizar, classificar e extrair metadados de 10 milhões de vídeos, feitos nas zonas de guerra e disponíveis on-line, em menos de 25 milissegundos, identificando, nesses vídeos, o uso das bombas de fragmentação. O software realiza um trabalho em escala massiva impossível de se fazer manualmente. Apropriando-se de datasets e processos de machine learning, o VFRAME enuncia, assim, um contramodelo à vigilância algorítmica. Ao apostar no uso da IA e do Big Data como poderosos recursos na defesa dos direitos humanos, define também um campo nas práticas de descolonização dos dados.

Tags: ,

Nota de esclarecimento A Três Comércio de Publicações Ltda. (EDITORA TRÊS) vem informar aos seus consumidores que não realiza cobranças por telefone e que também não oferece cancelamento do contrato de assinatura de revistas mediante o pagamento de qualquer valor. Tampouco autoriza terceiros a fazê-lo. A Editora Três é vítima e não se responsabiliza por tais mensagens e cobranças, informando aos seus clientes que todas as medidas cabíveis foram tomadas, inclusive criminais, para apuração das responsabilidades.