Passar rápido pela segurança do aeroporto sim, mas existe um custo oculto

Reconhecimento facial pode ser usado para uma série de finalidades e auxiliar a criar serviços mais personalizados, seguros e práticos. As senhas para nossos dispositivos móveis, por exemplo, já não são mais necessárias: celulares e tablets desbloqueiam telas somente com a visão do seu rosto.

Porém, o uso indiscriminado dessa tecnologia também pode auxiliar no surgimento de Estados distópicos e empresas superpoderosas, além de uma sociedade de vigilância. Estamos trocando nossa privacidade por um pouco mais de segurança? Será que vale mesmo a pena pagar o alto preço de uma vigilância 24h em todos os espaços que frequentamos, até mesmo dentro de nossas casas?

A tecnologia vai além e parece ter saído do filme Minority Report: na China os "criminosos em potencial" já são alvos da polícia e de investigações. O uso desse recurso levanta uma série de questões éticas, para as quais ainda não temos resposta. Mas para que ela venha fazer parte dos sistemas de segurança, públicos e privados, e outros serviços, será necessário discutir e regulamentar sua ação, para evitar alguns problemas, sendo um deles a sistemática discriminação algorítmica. 

Fim das filas intermináveis em aeroportos?

Os procedimentos de segurança dos aeroportos são cansativos, frustrantes e demorados. Porém, em um futuro próximo os passageiros poderão entrar no terminal internacional de qualquer aeroporto dos Estados Unidos e embarcar em um avião sem sequer apresentar um passaporte; e o reconhecimento facial será a responsável por essa mudança brusca. No balcão de check-in, basta que o passageiro faça pose em frente a uma câmera que digitaliza o rosto e envia a imagem para um sistema remoto que corresponde a uma cópia armazenada da foto de passaporte. Em seguida, já no portão de embarque, mais uma foto seria tirada e pronto.

Essa tecnologia já está em andamento: o programa de Proteção Alfandegária e de Fronteiras dos EUA, chamado Biometric Exit (Saída Biométrica), é usado em portões de partida em 17 aeroportos nos EUA. Em 2021, a agência planeja que o sistema faça a varredura de 97% de todos os viajantes internacionais. Mas claro que tanta conveniência vem acompanhada de sacrifícios: pesquisas acadêmicas mostram que algoritmos de reconhecimento facial possuem taxas de erro que variam dependendo da raça ou do gênero de uma pessoa, o que significa que alguns grupos podem enfrentar exames extras mais frequentemente do que outros. 

Outro problema: o reconhecimento facial pode ser utilizada sem nosso conhecimento e autorização, podendo suscitar em um rastreamento ao longo de toda a vida, caso esses registros sejam mantidos. De acordo com consultores da área de segurança, agências governamentais mostram interesse nas fotos de estrangeiros reunidos em aeroportos, sobretudo as agências ligadas à Imigração e Alfândega e da Guarda Costeira dos EUA.

Vigilância em todos os lugares

Na escola: um distrito escolar no oeste de Nova York deve ser o primeiro nos Estados Unidos a testar um sistema de reconhecimento facial em seus alunos e professores, em oito escolas diferentes. O sistema que seria utilizado, o Aegis, oferece alerta precoce sobre ameaças, como armas de fogo e indivíduos não permitidos nos prédios, informa um FAQ distribuído aos pais dos alunos.

Essa carta apresenta o projeto como uma forma de reduzir os tiroteios recorrentes na escola, mas também identificaria "criminosos sexuais de nível 2 ou 3, estudantes que foram suspensos da escola, funcionários que foram suspensos e/ou estão em licença administrativa, pessoas que foram notificadas de que não estar presente na propriedade do distrito, qualquer pessoa proibida de entrar na propriedade do distrito por ordem judicial, ou qualquer pessoa que possa representar uma ameaça com base em informações credíveis apresentadas ao distrito."

O informativo enviado aos pais também afirma que o sistema "não gerará informações nem registrará os movimentos de outros estudantes, funcionários ou visitantes do distrito". No entanto, para que o sistema sinalize de forma efetiva as "pessoas de interesse", os sistemas de reconhecimento facial também devem desconsiderar os rostos de pessoas que não são de interesse. Em outras palavras, analisando-os também. O Departamento de Educação do Estado de Nova York decidiu adiar o lançamento do projeto, para revisar a privacidade e dados dos alunos com a adição da tecnologia. As regulamentações estão em processo de finalização que adotarão um padrão para privacidade e segurança de dados para todas as agências educacionais estaduais. 

Em casa: A essa altura do campeonato, todos nós já aceitamos a ideia de que o Apple Face ID só precisa de uma espiadinha em nossos rostos para nos identificar e desbloquear nossas telas, certo? Mas o reconhecimento facial já está disponível para muitos outros dispositivos em nossas casas. A campainha Nest Hello, por exemplo, detectar faces familiares para avisar quem está chamando e a Nest Cam IQ Indoor e Nest Cam IQ Outdoor usam o sistema para vigiar as pessoas dentro e fora de casa. 

O cachorro robô Aibo, da Sony, também possui recurso de reconhecimento facial e sabe qual membro da família o ofereceu um osso. A linha de produtos Kasa da TP-Link, anunciada na CES, é um sistema de casa inteligente que inclui câmeras com reconhecimento facial, entre outros produtos que ficam todos conectados aos celulares dos donos e sistema de segurança da casa. Pode parecer bom saber quem está chegando à sua casa para uma visita, mas isso pode comprometer a privacidade de seus vizinhos, familiares e amigos, enviando os dados de volta para os fabricantes desses produtos ou potenciais hackers.

No carro: Se até nossas casas são vigiadas, por que seria diferente com nossos carros? A Volvo anunciou que introduzirá câmeras nos carros para mitigar a distração dos motoristas. Para a empresa, além da velocidade, distração e intoxicação são grandes causadoras de acidentes, assim o sistema será capaz de monitorar comportamentos perigosos ligados tanto à distração quanto à intoxicação. 

As câmeras podem monitorar os olhos do motorista e verificar para onde estão apontados, determinando se o motorista está operando o veículo de maneira segura. Se algum risco de direção for detectado, o sistema pode intervir limitando a velocidade do carro, ligar para o serviço do Volvo on Call em nome do motorista ou, em um caso extremo, o carro poderá desacelerar e estacionar no acostamento.

O sistema pretende ser padrão dos futuros carros da montadora e não poderá ser desativado pelo motorista. A empresa já tenta minimizar as preocupações com privacidade: todos os dados de vídeo coletados pelas duas câmeras do carro ficarão dentro dele, sem que sejam transmitidos ou armazenados para redes externas.

Discriminação algorítmica

O reconhecimento facial oferece benefícios interessantes, a polícia de Maryland, por exemplo, já usou a tecnologia para identificar um suspeito em um tiroteio em massa na Capital Gazette e na Índia, ajudou a identificar quase três mil crianças desaparecidas em apenas quatro dias. No entanto, ainda falta muito para que a tecnologia seja aperfeiçoada e enquanto isso, ela pode ser uma inimiga das minorias.

O Google Fotos já classificou pessoas negras como gorilas e na China, uma mulher afirmou que um colega de trabalho já conseguiu desbloquear seu iPhone X usando o ID Facial. O risco desse tipo de erro aumenta quando agências de segurança pública usam o reconhecimento facial para identificar suspeitos em um crime ou desmascarar pessoas em um protesto.

Em um teste realizado pela American Civil Liberties Union, o sistema Amazon Rekognition 28 membros do Congresso Americano foram falsamente identificados em fotos de presos, sendo que cerca de 40% deles envolveram pessoas não brancas. Essas descobertas preocupam grupos de liberdades civis, legisladores e empresas de tecnologia, pois há um risco de que o reconhecimento facial prejudique minorias. 

Estudos já mostraram que os sistemas têm mais dificuldade em identificar mulheres e pessoas de pele mais escura, o que poderia levar a resultados desastrosos. Uma loja de conveniência em Tacoma instalou um sistema de segurança de reconhecimento facial para negar a entrada de clientes, a menos que eles sejam aprovados por uma IA. Como as tecnologias ainda não reconhecem bem rostos não brancos, pode ser que muitos clientes sequer consigam entrar no estabelecimento.

Especialistas apontam muitos motivos para que isso aconteça: primeiramente, as fotos públicas que funcionários usam para treinar computadores para reconhecer rostos podem incluir mais pessoas brancas do que minorias. Em segundo lugar, os engenheiros de empresas de tecnologia, que são formados principalmente por homens brancos, também podem estar involuntariamente projetando os sistemas de reconhecimento facial para trabalhar melhor na identificação de certas raças. Por uma razão mais técnica, há desafios em lidar com a falta de contraste de cores na pele mais escura, ou com as mulheres usando maquiagem para esconder as rugas ou usar o cabelo de forma diferente.

As empresas vêm trabalhando para mudar isso; a Microsoft disse no ano passado que reduziu as taxas de erro para identificar mulheres e homens de pele mais escura em até 20 vezes. A IBM criou um conjunto de dados de milhões de usuários para ajudar a reduzir o viés na tecnologia de reconhecimento facial. Defensores dos direitos civis e legisladores, no entanto, acham que é preciso ir mais longe e legislar sobre o assunto, para garantir a segurança e integridade de minorias.

A implacável China

Se as possibilidades e problemas do reconhecimento facial ainda não te assustaram, o que vem ocorrendo na China talvez consiga essa façanha. Em uma rua chinesa, um pedestre que atravessa fora da faixa é exposto em telões gigantescos, por meio de filmagens obtidas em câmeras de vigilância com tecnologia de reconhecimento facial. As imagens dos infratores é exibida para todos, para que sejam envergonhados. 

Mas não para por aí, por meio dessa tecnologia o governo chinês afirma ser capaz de identificar qualquer um de seus 1,4 bilhão de cidadãos em questão de segundos, mas também tem a capacidade de registrar o comportamento de um indivíduo para prever quem pode se tornar uma ameaça. A intenção do governo chinês é criar uma rede de controle social que torne mais difícil que as pessoas planejem ações ou pressionem o governo. O governo chinês está trabalhando para criar um estado tecnologicamente autoritário com inteligência artificial e reconhecimento facial para rastrear e monitorar seus 1,4 bilhão de cidadãos. Há quem negue esse poder todo da China, segundo o vice-presidente de uma startup de inteligência artificial do país, as plataformas ainda têm sérias limitações tecnológicas e mesmo que a China fizesse varreduras faciais de cada um de seus cidadãos em seu sistema, seria impossível identificar todos que passassem na frente de uma câmera vinculada. 

O especialista ainda afirma que a busca no sistema por mais de mil rostos por vez não seria viável e que a capacidade de processamento para isso exigiria um supercomputador. Outra questão é que hoje em dia ainda é impossível rodar o sistema 24 horas por dia. Mesmo com os exageros do governo a respeito de suas capacidades tecnológicas, é inegável que a China vem progredindo nessas tecnologias de vigilância e que mantém investimentos pesados na área.

Ainda mais grave: a China estaria usando esse potencial para realizar uma dura repressão contra minorias. Uma série de documentos e entrevistas mostram que as autoridades chinesas estão utilizando o sistema de reconhecimento facial para rastrear e controlar muçulmanos. A prática faz com que a China seja pioneira na aplicação da tecnologia da próxima geração para observar sua população, potencialmente inaugurando uma nova era de racismo automatizado. Ao contrário do debate que ocorre em outros países, em que os preconceitos inconscientes interferem na tecnologia, na China o uso é consciente. A Human Rights Watch expôs detalhes de um aplicativo de smartphone que é usado pela polícia em Xinjiang, que empacotou várias fontes de dados em cidadãos monitorados. O sistema rastreia o movimento de pessoas monitorando a trajetória e os dados de localização de seus telefones, carteiras de identidade e veículos.

Empresas superpoderosas

Como uma tecnologia de alto investimento e dificuldade de desenvolvimento, corre-se também o risco de que ela fique apenas nas mãos de grandes companhias, criando um grupo de empresas superpoderosas detentoras do mercado. É o caso da Amazon e da IBM que avançam no desenvolvimento e são questionadas por outras empresas e cientistas. Em uma carta aberta, pesquisadores pediram que a empresa examinasse minuciosamente seus produtos para saber se eles deveriam ser utilizados pela polícia, uma vez que ainda não existem legislações em vigor e já é de conhecimento geral o risco crítico da discriminação algorítmica.

Já a IBM, em uma busca por algoritmos de reconhecimento facial mais justos, utilizava mais de um milhão de fotos retiradas do Flickr, mas sem a permissão dos fotógrafos, nem dos fotografados. Para a indústria da área, a empresa não fez nada incomum, pois os pesquisadores de inteligência artificial acumulam dados de diferentes cantos da internet para alimentar os algoritmos. É o caso de fotos do Instagram, por exemplo. Quando todos começaram a utilizar a internet e postar seus dados indiscriminadamente em todos os lugares, as capacidades da inteligência artificial ainda eram pequenas. Isso mudou, mas a solicitação de permissão e formas de informar o usuário sobre como seus dados são utilizados, não. Hoje, os tecnólogos têm a responsabilidade de mudar com ele e garantir que haja um amplo consenso social informado sobre suas práticas.

Indo contra as tendências, a Axon, criadora da Taser, reuniu um comitê de ética de especialistas externos para oferecer orientação sobre possíveis desvantagens de sua tecnologia. O grupo publicou um relatório recomendando que a empresa não a implemente em câmeras corporais, pois pode exacerbar as iniquidades existentes no policiamento, por exemplo penalizando comunidades negras ou LGBT. O CEO da empresa concordou com a recomendação e ressaltou a importância de refletir antes da implementação e possíveis efeitos colaterais negativos. 

Regular ou banir?

Com todos os riscos à privacidade e deficiências do reconhecimento facial, estados americanos optaram pela proibição. É o caso de Illinois, que regula a coleta de dados biométricos, incluindo varreduras faciais, limitando o acesso ao reconhecimento facial em câmeras de segurança doméstica, um recurso que está se tornando cada vez mais predominante no mercado de segurança do consumidor. San Francisco foi a primeira cidade dos EUA a proibir o reconhecimento facial, mas a portaria não impede que empresas privadas usem a identificação facial de maneiras que muitas pessoas acham assustadoras. As cidades de Oakland e Somerville, em Massachusetts, já propuseram proibições semelhantes.

O reconhecimento facial, como praticamente todas as ferramentas tecnológicas, tem tanto o potencial para ser usado para o "bem", quanto para o "mal". Por um lado, ele pode oferecer segurança, seja por meio de um bloqueio de pessoas desconhecidas na porta da sua casa ou na escola do seu filho, ou por meio de um sistema inteligente que evite acidentes de carro.

Por outro lado, alimentada pelos comportamentos discriminatórios da sociedade, essa tecnologia pode aprofundar a perseguição contra grupos historicamente marginalizados, como pessoas negras e muçulmanos, por exemplo. Ela também nos coloca ainda mais à beira de uma realidade distópica em que o "Grande Irmão" acompanha cada um de nossos passos, sabe onde vamos, com quem vamos e o que faremos. Ainda faltam artifícios legais para lidar com essas novas tecnologias e muito da discussão cai numa área cinza em que o grande responsável pela própria privacidade e escolhas é o usuário. O problema é: quantas vezes sabemos, realmente, que estamos sendo vigiados? Ainda será necessário discutir profundamente os desafios éticos e legais que a tecnologia de reconhecimento facial nos oferece e, com base nisso, legislar para que essa ferramenta tão poderosa seja nossa aliada, não uma fomentadora de constante vigilância.