Os especialistas em ID continuam alertando sobre métodos de detecção de deepfake nem sempre funcionam em pessoas com tons de pele mais escuras
Os conjuntos de treinamento dessas ferramentas geralmente são dominados por homens brancos de meia-idade, o que significa que têm um viés contra pessoas de outras etnias e tons de pele.
Desde 11 de julho de 2023 o Google abriu o código-fonte da Escala de Tom de Pele MST que significa Monk Skin Tone, uma escala alternativa que é mais inclusiva do que o padrão atual da indústria de tecnologia.
Ellis Monk, professor de sociologia da Universidade de Harvard e pesquisador visitante do Google, está trabalhando para resolver esse problema.
Ele desenvolveu uma escala de tons de pele que oferece um espectro mais amplo do que a escala de Fitzpatrick, mais comumente usada pelas empresas.
Google lançou a escala de tons de pele de 10 tons para ajudar a construir produtos com menos viés de IA para usuários com peles coloridas.
A nova escala, MST substitui a escala de seis tons Fitzpatrick, que era amplamente usada para classificar tons de pele. As classificações são então usadas para testar o viés de desempenho contra pessoas de cor em soluções como sensores de frequência cardíaca de smartwatches e outros sistemas baseados em IA, como reconhecimento facial.
A escala Monk foi desenvolvida após um estudo realizado por professor Ellis Monk em colaboração com o Google, no qual cerca de 3.000 pessoas nos Estados Unidos foram entrevistadas. No decorrer do estudo, muitas pessoas disseram que a escala de 10 pontos correspondia à sua pele tão bem quanto uma paleta de 40 tons.
O objetivo de Monk foi criar um novo padrão que funcione para a maioria das pessoas no mundo que são pessoas de cor diferente da branca.
Como a MST pode melhorar os sistemas de IA?
A escala MST pode ajudar a melhorar os sistemas de IA de várias maneiras. Por exemplo, ela pode ser usada para: Avaliar a representatividade de conjuntos de dados de treinamento de IA; identificar e corrigir vieses em modelos de IA e desenvolver modelos de IA mais precisos e inclusivos.
O chefe de produto da equipe de IA responsável do Google, Tulsee Doshi, elogiou o novo padrão. No entanto, ele também alertou que problemas ainda podem surgir com a nova escala se as empresas não tiverem dados suficientes sobre os tons ou se os dados obtidos para treinar os algoritmos forem diferentes devido a situações de iluminação ou discrepâncias no julgamento humano.
O Google apresentou a Escala MST quando lançou seu software de fotos aprimorado com modelos e algoritmos capazes de capturar melhor pessoas com diferentes tons de pele.
Nessa ocasião o Google fez um apelo a outras empresas para incorporar a nova escala de tons de pele em seus processos de desenvolvimento de produtos, de acordo com os esforços coletivos para melhorar a avaliação da equidade da aprendizagem de máquina, no entanto o que verificamos é que ainda estamos errando ao analisar a biometria das pessoas.
Fraude deepfake é uma ameaça crescente
A fraude deepfake é uma ameaça crescente, e as ferramentas de detecção devem ser aprimoradas para proteger todas as pessoas, independentemente de sua raça ou etnia.
Um exemplo é a notícia de que a polícia de Hong Kong prendeu seis pessoas que usaram deepfakes para enganar bancos e outros credores. Os suspeitos adulteraram oito imagens roubadas, juntamente com carteiras de identidade de Hong Kong furtadas e comprovantes de endereço e renda. Eles supostamente usaram documentos fraudulentos para solicitar pelo menos 20 empréstimos online, um dos quais foi aprovado para HK$ 70.000 (US$ 8.937).
Em outro caso, um cidadão japonês foi enganado para comprar HK$ 1.700 (US$ 216) em créditos de jogos de computador. A vítima foi enganada por uma videochamada fraudulenta em que um golpista trocou o rosto com o CEO de um banco de Hong Kong.
A escala MST foi desenvolvida pelo professor de Harvard, Dr. Ellis Monk, e fornece um espectro mais amplo de tons de pele que pode ser aproveitado para avaliar conjuntos de dados e modelos de aprendizado de máquina para melhor representação.
“A escala MST é um avanço importante para a compreensão dos tons de pele dos sistemas de visão computacional”, disse Fei-Fei Li, diretora do Centro de Pesquisa para IA Responsável e Tecnologia Centrada no Ser Humano do Google. “Ao abrir o código-fonte para a comunidade de aprendizado de máquina, esperamos que outros incorporem a escala em seus processos de desenvolvimento e que possamos melhorar coletivamente esta área da IA.”
O Google está trabalhando com o Dr. Monk para refinar ainda mais a escala. O código-fonte está disponível no GitHub.
Ao contratar serviços de reconhecimento facial, verifique a escala de tons de pele utilizada em seus softwares. Só assim caminharemos em direção de uma IA mais justa e inclusiva.
No vídeo a seguir você assistirá Dr. Ellis Monk explicar por que ele desenvolveu a Escala de Tom de Pele MST e a importância de promover ambientes de desenvolvimento mais inclusivos
Como proteger os dados e a identidade de pessoas vulneráveis? Por Regina Tupinambá
BCI: mentes humanas controlando máquinas. Por Susana Taboas
Acompanhe como o reconhecimento facial, impressões digitais, biometria por íris e voz e o comportamento das pessoas estão sendo utilizados para garantir a identificação digital precisa para mitigar fraudes e proporcionar aos usuários conforto, mobilidade e confiança.
Crypto ID é, sem dúvida, o maior canal de comunicação do Brasil e América Latina sobre identificação digital.
Leia outros artigos aqui!
Junte-se a nós na construção de um futuro digital mais seguro e confiável!
Ao longo de dez anos, trilhamos um caminho de pioneirismo com foco em segurança digital, identificação e privacidade. Celebramos essa jornada com a certeza de que a confiança é a base para um futuro digital sólido e promissor.
Mas a nossa missão continua! Convidamos você, leitor, e sua empresa a se juntarem a nós nesta jornada em busca de um futuro digital ainda mais seguro e confiável. Acreditamos no poder da colaboração para construir um ecossistema digital onde empresas, máquinas e pessoas possam confiar muito mais uma nas outras.
Você quer acompanhar nosso conteúdo? Então siga nossa página no LinkedIn!
