Plano de reconhecimento facial do IRS levanta grandes preocupações

0
65


O seguinte ensaio é reimpresso com permissão de A conversaA conversauma publicação online que cobre as pesquisas mais recentes.

A Receita Federal dos EUA está planejando exigir que os cidadãos criem contas com uma empresa privada de reconhecimento facial para registrar impostos on-line. A Receita Federal está se juntando a um número crescente de agências federais e estaduais que têm ID.me para autenticar as identidades das pessoas que acessam os serviços.

A medida do IRS visa reduzir o roubo de identidade, um crime que afeta milhões de americanos. O IRS, em particular, relatou uma série de declarações fiscais de pessoas que alegam ser outras, e fraude em muitos dos programas que foram administrados como parte Plano de Socorro Americano tem sido uma grande preocupação do governo.

A decisão do IRS provocou uma reação, em parte por preocupações sobre exigir que os cidadãos usem a tecnologia de reconhecimento facial e em parte pelas dificuldades que algumas pessoas tiveram em usar o sistema, principalmente com algumas agências estaduais que fornecem benefícios de desemprego. A reação levou a Receita Federal a rever sua decisão.

Como um pesquisador de informática e a cadeira do Conselho de Política de Tecnologia Global da Association for Computing Machinery, estive envolvido na exploração de alguns dos problemas com o uso governamental da tecnologia de reconhecimento facial, tanto seu uso quanto suas possíveis falhas. Tem havido um grande número de preocupações levantadas sobre a uso desta tecnologia no policiamento e outras funções governamentais, muitas vezes focado em saber se a precisão desses algoritmos pode ter efeitos discriminatórios. No caso do ID.me, há outras questões envolvidas também.

ID dot quem?

ID.me é uma empresa privada que formado como TroopSwap, um site que oferecia descontos de varejo para membros das forças armadas. Como parte desse esforço, a empresa criou um serviço de identificação para que militares qualificados para descontos em várias empresas pudessem provar que eram, de fato, militares. Em 2013, a empresa renomeou-se ID.me e começou a comercializar seu serviço de identificação de forma mais ampla. O Departamento de Assuntos de Veteranos dos EUA começou a usar a tecnologia em 2016, o primeiro uso governamental da empresa.

Para usar o ID.me, o usuário carrega um aplicativo de celular e tira uma selfie — uma foto de seu próprio rosto. O ID.me compara essa imagem com vários IDs que obtém por meio de registros abertos ou por meio de informações que os candidatos fornecem por meio do aplicativo. Se encontrar uma correspondência, cria uma conta e usa o reconhecimento de imagem para identificação. Caso não consiga realizar uma partida, os usuários podem entrar em contato com um “árbitro de confiança” e fazer uma videochamada para solucionar o problema.

Várias empresas e estados usam o ID.me há vários anos. As reportagens documentaram problemas que as pessoas tiveram com o ID.me falhando em autenticá-los e com o suporte ao cliente da empresa na resolução desses problemas. Além disso, os requisitos de tecnologia do sistema poderia alargar o fosso digitaltornando mais difícil para muitas das pessoas que mais precisam de serviços governamentais acessá-los.

Mas grande parte da preocupação com o IRS e outras agências federais que usam o ID.me gira em torno do uso de tecnologia de reconhecimento facial e coleta de dados biométricos.

Precisão e preconceito

Para começar, há uma série de preocupações gerais sobre a precisão das tecnologias de reconhecimento facial e se existem preconceitos discriminatórios em sua precisão. Isso levou a Association for Computing Machinery, entre outras organizações, a pedir uma moratória sobre o uso do governo da tecnologia de reconhecimento facial.

Um estudo de algoritmos de reconhecimento facial comerciais e acadêmicos pelo Instituto Nacional de Padrões e Tecnologia descobriu que os algoritmos de correspondência facial dos EUA geralmente têm maiores taxas de falsos positivos para rostos asiáticos e negros do que para rostos brancos, embora os resultados recentes tenham melhorado. ID.me afirma que existe sem preconceito racial em seu processo de verificação de correspondência de rosto.

Existem muitas outras condições que também podem causar imprecisão – alterações físicas causadas por doença ou acidente, perda de cabelo devido à quimioterapia, mudança de cor devido ao envelhecimento, conversões de gênero e outras. Como qualquer empresa, incluindo ID.me, lida com tais situações não está claro, e esta é uma questão que levantou preocupações. Imagine ter um acidente desfigurante e não conseguir entrar no site da sua companhia de seguro médico por causa de danos ao seu rosto.

A tecnologia de reconhecimento facial está se espalhando rapidamente. A tecnologia – e a sociedade – está pronta?

Dados privados

Existem outras questões que vão além da questão de quão bem o algoritmo funciona. Como parte de seu processo, o ID.me coleta uma quantidade muito grande de informações pessoais. Ele tem uma política de privacidade muito longa e difícil de ler, mas essencialmente, embora o ID.me não compartilhe a maioria das informações pessoais, ele compartilha várias informações sobre o uso da Internet e visitas a sites com outros parceiros. A natureza dessas trocas não é imediatamente aparente.

Portanto, uma questão que surge é qual nível de informação a empresa compartilha com o governo e se a informação pode ser usada para rastrear cidadãos dos EUA entre fronteiras regulamentadas que se aplicam a agências governamentais. Defensores da privacidade, tanto à esquerda quanto à direita, há muito se opõem a qualquer forma de carteira de identidade obrigatória do governo. Entregar a identificação a uma empresa privada permite que o governo consiga isso essencialmente por meio de subterfúgios? Não é difícil imaginar que alguns estados – e talvez eventualmente o governo federal – possam insistir em uma identificação do ID.me ou de um de seus concorrentes para acessar serviços governamentais, obter cobertura médica e até mesmo votar.

Como Joy Buolamwini, pesquisadora de IA do MIT e fundadora do Liga da Justiça Algorítmicaargumentou, além das questões de precisão e viés é a questão de o direito de não usar tecnologia biométrica. “A pressão do governo sobre os cidadãos para compartilhar seus dados biométricos com o governo afeta a todos nós – não importa sua raça, gênero ou afiliações políticas”, escreveu ela.

Muitas incógnitas para o conforto

Outra questão é quem audita o ID.me quanto à segurança de seus aplicativos? Embora ninguém esteja acusando o ID.me de más práticas, os pesquisadores de segurança estão preocupados com a forma como a empresa pode proteger o incrível nível de informações pessoais com as quais acabará. Imagine uma violação de segurança que liberou as informações do IRS para milhões de contribuintes. No mundo em rápida mudança da segurança cibernética, com ameaças que variam de hackers individuais a atividades criminosas internacionais, os especialistas gostariam de ter certeza de que uma empresa que recebe tantas informações pessoais está usando segurança de última geração e mantendo-a atualizada.

Grande parte do questionamento da decisão do IRS ocorre porque estes são os primeiros dias para o uso do governo de empresas privadas para fornecer segurança biométrica, e alguns dos detalhes ainda não foram totalmente explicados. Mesmo que você conceda que o uso da tecnologia pelo IRS seja adequadamente limitado, esse é potencialmente o começo do que pode rapidamente aumentar a velocidade de muitas agências governamentais que usam empresas comerciais de reconhecimento facial para contornar os regulamentos que foram implementados especificamente para controlar os poderes do governo.

Os EUA estão à beira de uma ladeira escorregadia e, embora isso não signifique que a tecnologia de reconhecimento facial não deva ser usada, acredito que isso significa que o governo deve colocar muito mais cuidado e devida diligência na exploração do terreno. antes de dar os primeiros passos críticos.

Este artigo foi publicado originalmente em A conversa. Leia o artigo original.



Fonte original deste artigo

DEIXE UMA RESPOSTA

Please enter your comment!
Please enter your name here