21.3 C
Lisboa
Segunda-feira, Agosto 8, 2022

As pessoas acham que rostos gerados por IA são mais confiáveis ​​​​do que rostos reais – e isso pode ser um problema

Must read


As pessoas não apenas são incapazes de distinguir entre rostos reais e rostos gerados por IA, mas também parecem confiar mais em rostos gerados por IA. As descobertas de um estudo relativamente pequeno sugerem que atores nefastos podem estar usando a IA para gerar rostos artificiais para enganar as pessoas.

As faces mais (linha superior) e menos (linha inferior) classificadas com precisão reais (R) e sintéticas (S). Crédito: DOI: 10.1073/pnas.2120481119

Pior do que uma moeda ao ar

Nos últimos anos, a Inteligência Artificial chegou um longo caminho. Isso é não apenas para analisar dadospode ser usado para criar textoimagens e mesmo vídeo. Uma aplicação particularmente intrigante é a criação de rostos humanos.

Nos últimos dois anos, os algoritmos tornaram-se notavelmente bons na criação de rostos humanos. Isso pode ser útil por um lado – permite que empresas de baixo orçamento produzam anúncios, por exemplo, essencialmente democratizando o acesso a recursos valiosos. Mas, ao mesmo tempo, rostos sintetizados por IA podem ser usados ​​para desinformação, fraude, propaganda e até pornografia de vingança.

Os cérebros humanos geralmente são muito bons em distinguir o real do falso, mas quando se trata dessa área, as IAs estão vencendo a corrida. Em um novo estudo, a Dra. Sophie Nightingale, da Universidade de Lancaster, e o professor Hany Farid, da Universidade da Califórnia, em Berkeley, conduziram experimentos para analisar se os participantes podem distinguir rostos sintetizados por IA de última geração de rostos reais e qual o nível de confiança dos rostos. evocado.

“Nossa avaliação do fotorrealismo de rostos sintetizados por IA indica que os mecanismos de síntese passaram pelo vale misterioso e são capazes de criar rostos indistinguíveis – e mais confiáveis ​​– do que rostos reais”, observam os pesquisadores.

Os pesquisadores projetaram três experimentos, recrutando voluntários da Plataforma turca mecânica. Na primeira, 315 participantes classificaram 128 faces retiradas de um conjunto de 800 (reais ou sintetizadas). A precisão deles foi de 48% – pior do que uma moeda ao ar.

Rostos representativos usados ​​no estudo. Você poderia distinguir os rostos reais dos sintéticos? Os participantes do estudo não puderam. Créditos da imagem: Crédito: DOI: 10.1073/pnas.2120481119.

Mais confiável

No segundo experimento, 219 novos participantes foram treinados sobre como analisar e dar feedback sobre os rostos. Eles foram então solicitados a classificar e classificar 128 faces, novamente de um conjunto de 800. Sua precisão aumentou graças ao treinamento, mas apenas para 59%.

Enquanto isso, no terceiro experimento, 223 participantes foram solicitados a avaliar a confiabilidade de 128 rostos (do conjunto de 800) em uma escala de 1 a 7. Surpreendentemente, os rostos sintéticos foram classificados 7,7% mais confiáveis.

“Os rostos fornecem uma rica fonte de informações, com exposição de apenas milissegundos suficientes para fazer inferências implícitas sobre características individuais, como confiabilidade. Nós nos perguntamos se rostos sintéticos ativam os mesmos julgamentos de confiabilidade. Caso contrário, uma percepção de confiabilidade pode ajudar a distinguir rostos reais de rostos sintéticos”.

“Talvez o mais interessante é que descobrimos que rostos gerados sinteticamente são mais confiáveis ​​do que rostos reais.”

Houve também algumas conclusões interessantes da análise. Por exemplo, as mulheres foram classificadas como significativamente mais confiáveis ​​do que os homens, e os rostos sorridentes também foram mais confiáveis. Os rostos negros foram classificados como mais confiáveis ​​do que o sul da Ásia, mas, por outro lado, a raça parecia não afetar a confiabilidade.

“Um rosto sorridente é mais provável de ser classificado como confiável, mas 65,5% dos rostos reais e 58,8% dos rostos sintéticos estão sorrindo, então a expressão facial por si só não pode explicar por que os rostos sintéticos são classificados como mais confiáveis”, observa o estudo.

Os pesquisadores oferecem uma possível explicação de por que rostos sintéticos podem ser vistos como mais confiáveis: eles tendem a se assemelhar a rostos médios, e pesquisas anteriores sugeriram que rostos médios tendem a ser considerado mais confiável.

Embora seja um tamanho de amostra bastante pequeno e as descobertas precisem ser replicadas em uma escala maior, as descobertas são bastante preocupantes, especialmente considerando a rapidez com que a tecnologia está progredindo. Pesquisadores dizem que, se quisermos proteger o público de “deep fakes”, deve haver algumas diretrizes sobre como as imagens sintetizadas são criadas e distribuídas.

“As salvaguardas podem incluir, por exemplo, a incorporação de marcas d’água robustas nas redes de síntese de imagem e vídeo que forneceriam um mecanismo downstream para identificação confiável. Porque é a democratização do acesso a esta poderosa tecnologia que representa a ameaça mais significativa, também encorajamos a reconsideração da frequentemente laissez-faire abordagem ao público e liberação irrestrita de código para qualquer pessoa incorporar em qualquer aplicativo.

“Neste momento crucial, e como outros campos científicos e de engenharia fizeram, encorajamos a comunidade gráfica e de visão a desenvolver diretrizes para a criação e distribuição de tecnologias de mídia sintética que incorporem diretrizes éticas para pesquisadores, editores e distribuidores de mídia.”

O estudo foi publicado em PNAS.



Fonte original deste artigo

- Advertisement -spot_img

More articles

DEIXE UMA RESPOSTA

Please enter your comment!
Please enter your name here

- Advertisement -spot_img

Latest article