Metrô de SP é alvo de ação inédita que pede fim do reconhecimento facial

UOL – Uma ação civil pública, ajuizada nesta quinta (3), pede que a Justiça proíba o Metrô de São Paulo de continuar coletando, mapeando e registrando sem consentimento prévio informações sobre os rostos de seus cerca de quatro milhões de usuários diários, usando como justificativa a segurança pública.

As garantias básicas para os dados coletados da população, a privacidade dos usuários e a proteção de crianças e adolescentes não estariam sendo atendidas pela empresa na implementação de um sistema de câmeras com reconhecimento facial e inteligência artificial que custou mais de R$ 50 milhões.

A avaliação é da Defensoria Pública do Estado de São Paulo, da Defensoria Pública da União, do Instituto Brasileiro de Defesa do Consumidor (Idec), do Intervozes, da Artigo 19 Brasil e América do Sul e do Coletivo de Advocacia em Direitos Humanos (CADHu), proponentes da ação, a primeira do gênero no Brasil.

O documento afirma que, além de desrespeitar a Lei Geral de Proteção de Dados (LGPD), o Estatuto da Criança e do Adolescente, a Constituição Federal, o Código de Defesa do Consumidor e tratados internacionais dos quais o Brasil é signatário, o sistema de reconhecimento facial é passível de falhas que poderiam levar à identificação equivocada de uma pessoa inocente como um procurado pela polícia.

O pedido solicita que a Vara da Fazenda Pública de São Paulo determine que a empresa interrompa imediatamente de coletar essas informações em suas instalações e pague uma indenização de, pelo menos, R$ 42,8 milhões em danos morais coletivos já causados aos passageiros.

“O Metrô de São Paulo está se apropriando indevidamente dos dados de milhões de usuários, como se não existisse lei, nem consequências para seus atos ilegais”, afirma à coluna Eloísa Machado, professora da FGV Direito SP e advogada do CADHu.

Ela defende que a proteção a dados pessoais é um direito reconhecido pela Constituição, através da recente emenda constitucional 115, e também pela LGPD. E que é fundamental que o Judiciário se posicione na proteção desses dados “para que a LGPD e a Constituição não virem letra morta”.

A coluna pediu um posicionamento da empresa na manhã desta quinta e atualizará o texto assim que ele for recebido. Em nota anterior sobre o assunto, o Metrô afirmou que o projeto seguiu a LGPD, que não há banco de dados com informações pessoais de passageiros, que nenhuma informação personificada é registrada e que o objetivo é oferecer mais segurança e reduzir a quantidade de ocorrências.

Ação diz que reconhecimento facial pode gerar ‘falsos positivos’ entre negros e trans

Em fevereiro de 2020, os autores do pedido contra o Metrô entraram com uma ação judicial para que a empresa demonstrasse com documentos, relatórios e atas que a implementação do sistema contava com mecanismos para evitar que os dados dos usuários fossem coletados e usados de forma indevida.

Na avaliação deles, o Metrô mostrou que o sistema é “ineficiente e perigoso”, sem todas as precauções necessárias para evitar violações massivas ao direito à privacidade.

A defensora pública Estela Guerrini, coordenadora do Núcleo Especializado de Defesa do Consumidor da Defensoria Pública de São Paulo disse à coluna que “ao usar o sistema de reconhecimento facial, o Metrô adota uma tecnologia que invade a privacidade das pessoas, gera discriminação e deixa de investir onde realmente é necessário, que é na melhoria do transporte público”. O que, segundo ela, não faz sentido considerando os desafios que o Metrô já tem para garantir um serviço de qualidade.

Diogo Moyses, coordenador do programa de Direitos Digitais do Idec, explica a questão da discriminação. De acordo com ele, a tecnologia adotada é passível de falhas, podendo produzir ações discriminatórias contra os passageiros. “O usuário pode ter seu longo e cansativo trajeto diário interrompido em virtude de ‘falsos positivos'”, afirma. Alguém ser confundido com um procurado pela Justiça ou com um desaparecido, por exemplo.

A ação cita que é maior a taxa de ‘falsos positivos’ entre indivíduos de pele escura e de etnias quando elas não são apropriadamente trabalhadas na base de dados. E que não há provas de que o sistema do metrô recebeu tratamento especial para reduzir esse viés. “Isso faz com que o sistema potencialmente seja um perpetuador de desigualdades presentes na sociedade brasileira, selecionando erroneamente mais vezes indivíduos negros e imigrantes”, diz a ACP.

A ação afirma que as pessoas não binárias, transexuais e transgêneros também são especialmente afetadas por sistemas como esse.

“O resultado discriminatório da tecnologia de reconhecimento facial reflete o enviesamento presente na própria base de dados que alimenta essa tecnologia, já que é elaborada e desenvolvida por alguns poucos homens cis e brancos de multinacionais que controlam a sua venda para o restante do mundo”, explica a defensora Isadora Brandão, coordenadora do Núcleo Especializado de Defesa da Diversidade e da Igualdade Racial da Defensoria Pública.

Apesar de não envolver inteligência artificial como o reconhecimento facial automático, levantamento da Defensoria Pública do Rio de Janeiro e do Colégio Nacional de Defensores Públicos Gerais aponta que 83% dos presos injustamente por reconhecimento fotográfico no Brasil são negros.

Captação de dados sobre crianças sem consentimento dos responsáveis

Os autores da ação defendem que o reconhecimento facial não pode ser equiparado a um circuito interno de TV e, portanto, não seria suficiente uma placa informando que “este ambiente está sendo gravado”. O sistema mapeia as informações biométricas do rosto, únicas de cada indivíduo, transformando-os em dados, que são armazenados para poderem ser comparados com as bases existentes.

A Lei Geral de Proteção de Dados demanda consentimento dos cidadãos para a coleta de informações pessoais. Você passa por isso todos os dias, quando entra em um site e ele te pergunta se pode utilizar cookies para coletar seus dados.

Um dos pontos sensíveis nesse sentido é a coleta e tratamento de dados pessoais de crianças e adolescentes usuárias do metrô sem que haja o consentimento de pais ou responsáveis, o que bate de frente não apenas com a LGPD, também com o Estatuto da Criança e do Adolescente.

Para o defensor Daniel Secco, coordenador do Núcleo Especializado da Infância e Juventude da Defensoria Pública, a justificativa de que o sistema possibilitaria a identificação de crianças desaparecidas e, por isso, precisa ser mantido, não é válida. “Como as crianças crescem e seus rostos mudam rapidamente, sabe-se que a chance de acerto do sistema de reconhecimento facial em crianças é pequena.”

A ação ajuizada nesta quinta defende que o projeto do Metrô está na contramão de medidas que vem sendo adotadas na Europa e nos Estados Unidos para restringir o uso massivo dessa tecnologia. E que empresas como Amazon, IBM e Microsoft já avisaram que vão suspender a venda de soluções de reconhecimento facial para o uso policial para evitar violações aos direitos humanos.

“Quando o reconhecimento facial é aplicado em massa por um órgão publico, informação sensível de cidadãos fica disponível. Isso é uma vigilância a priori, onde todo mundo que usa metrô é suspeito até que se prove o contrário”, avalia à coluna Pedro Ekman, coordenador do Intervozes.

“É um caminho sem volta para uma sociedade vigiada onde os governos vão ter um poder extremo em relação aos cidadãos”, alerta.

João Paulo Dorini, defensor público federal e defensor regional dos direitos humanos em São Paulo, vê a proteção de dados como a nova fronteira dos diretos fundamentais.

“O acúmulo tecnológico acrítico tem pavimentado abusos de diversas ordens. Essa ação pode estabelecer um marco no que pode ou não ser feito. E como Estado e empresas podem atuar sem atacar os direitos humanos”, conclui.

O que já disse o metrô sobre a questão do reconhecimento facial

Quando as organizações demandaram respostas do Metrô de São Paulo na ação que precedeu esta, a coluna entrou em contato com a empresa, em 2020, para falar do assunto.

Através de sua assessoria, ela afirmou que “obedeceu aos requisitos legais para a implantação do Sistema de Monitoramento Eletrônico, que tem o objetivo de modernizar o atual circuito interno”. Disse que “o sistema foi contratado para o monitoramento com câmeras que têm recursos de inteligência para apoio as ações operacionais e não para o reconhecimento de dados pessoais”.

Afirmou que o Sistema de Monitoramento Eletrônico tem o objetivo de modernizar o atual circuito interno, “oferecendo maior a segurança aos mais de quatro milhões de pessoas que utilizam o Metrô todos os dias”. Busca também reduzir a quantidade de ocorrências de segurança pública, como assédio e importunação sexual, furtos e roubos nas estações e trens.

Garante que “não há qualquer banco de dados com informações pessoais de passageiros e nenhuma informação personificada é registrada quando ele passa pelas catracas do Metrô” e que o sistema foi moldado obedecendo a LGPD.

Por fim, diz que o sistema “será usado principalmente para apoio operacional, permitindo a identificação e rastreamento de objetos suspeitos, crianças desacompanhadas, além da detecção da invasão de áreas, como pessoas que entram na via e outras situações que colocam em risco o passageiro” e que “o reconhecimento facial é apenas um dos recursos possíveis que pode auxiliar nessas tarefas mencionadas”. Por fim, diz que “nosso maior compromisso é com o cidadão de bem”.

Fonte: https://noticias.uol.com.br/colunas/leonardo-sakamoto/2022/03/03/metro-de-sp-e-alvo-de-acao-inedita-que-pede-fim-do-reconhecimento-facial.htm