Últimas notícias

Fique informado
A escala de Tons de Pele MST é um importante passo em direção a uma IA mais justa e inclusiva

A escala de Tons de Pele MST é um importante passo em direção a uma IA mais justa e inclusiva

30 de agosto de 2023

Spotlight

A Transformação Digital do Mercado Imobiliário: Blockchain, Moedas digitais, Cartórios e o Futuro

A tecnologia blockchain tem despertado interesse devido ao seu potencial disruptivo em vários setores, incluindo o setor imobiliário.

8 de abril de 2024

Empresa de Israel traz tecnologia de ponta em cibersegurança para o mercado brasileiro

Com o potencial de crescimento do mercado brasileiro e sua consequente inserção no ambiente digital, os fundadores da Cysfera decidiram trazer as inovações de ponta israelenses ao cenário nacional.

3 de abril de 2024

Do primeiro Robô Advogado ao ChatGPT: Você sabe como as IAs podem impactar o futuro do setor jurídico?

Assista o webinar na íntegra, gratuitamente pelo canal oficial da doc9 no YouTube e obtenha insights essenciais sobre como aproveitar ao máximo as tecnologias emergentes e manter vantagem competitiva neste setor em constante evolução.

28 de março de 2024

AX4B: 64% das empresas brasileiras não possuem soluções corporativas de antivírus, apesar do aumento de 7% nos ataques cibernéticos

A AX4B acaba de divulgar os resultados de sua mais recente pesquisa sobre a situação da segurança cibernética no Brasil.

26 de março de 2024

BCI: mentes humanas controlando máquinas. Por Susana Taboas

Interface Cérebro-Computador BCI é um sistema de comunicação de hardware e software que permite que a atividade cerebral controle computadores ou dispositivos externos.

24 de agosto de 2023

Como proteger os dados e a identidade de pessoas vulneráveis? Por Regina Tupinambá

Pessoas vulneráveis estão mais propensas a serem vítimas e elas precisam do básico: sigilo de seus dados e identificação digital simplificada.

23 de agosto de 2023

Os especialistas em ID continuam alertando sobre métodos de detecção de deepfake nem sempre funcionam em pessoas com tons de pele mais escuras

Os conjuntos de treinamento dessas ferramentas geralmente são dominados por homens brancos de meia-idade, o que significa que têm um viés contra pessoas de outras etnias e tons de pele.

Desde 11 de julho de 2023 o Google abriu o código-fonte da Escala de Tom de Pele MST que significa Monk Skin Tone, uma escala alternativa que é mais inclusiva do que o padrão atual da indústria de tecnologia.

Ellis Monk, professor de sociologia da Universidade de Harvard

Ellis Monk, professor de sociologia da Universidade de Harvard e pesquisador visitante do Google, está trabalhando para resolver esse problema.

Ele desenvolveu uma escala de tons de pele que oferece um espectro mais amplo do que a escala de Fitzpatrick, mais comumente usada pelas empresas.

Google lançou a escala de tons de pele de 10 tons para ajudar a construir produtos com menos viés de IA para usuários com peles coloridas.

A nova escala, MST substitui a escala de seis tons Fitzpatrick, que era amplamente usada para classificar tons de pele. As classificações são então usadas para testar o viés de desempenho contra pessoas de cor em soluções como sensores de frequência cardíaca de smartwatches e outros sistemas baseados em IA, como reconhecimento facial.

A escala Monk foi desenvolvida após um estudo realizado por professor Ellis Monk em colaboração com o Google, no qual cerca de 3.000 pessoas nos Estados Unidos foram entrevistadas. No decorrer do estudo, muitas pessoas disseram que a escala de 10 pontos correspondia à sua pele tão bem quanto uma paleta de 40 tons.

O objetivo de Monk foi criar um novo padrão que funcione para a maioria das pessoas no mundo que são pessoas de cor diferente da branca.

Como a MST pode melhorar os sistemas de IA?

A escala MST pode ajudar a melhorar os sistemas de IA de várias maneiras. Por exemplo, ela pode ser usada para: Avaliar a representatividade de conjuntos de dados de treinamento de IA; identificar e corrigir vieses em modelos de IA e desenvolver modelos de IA mais precisos e inclusivos.

O chefe de produto da equipe de IA responsável do Google, Tulsee Doshi, elogiou o novo padrão. No entanto, ele também alertou que problemas ainda podem surgir com a nova escala se as empresas não tiverem dados suficientes sobre os tons ou se os dados obtidos para treinar os algoritmos forem diferentes devido a situações de iluminação ou discrepâncias no julgamento humano.

O Google apresentou a Escala MST quando lançou seu software de fotos aprimorado com modelos e algoritmos capazes de capturar melhor pessoas com diferentes tons de pele.

Nessa ocasião o Google fez um apelo a outras empresas para incorporar a nova escala de tons de pele em seus processos de desenvolvimento de produtos, de acordo com os esforços coletivos para melhorar a avaliação da equidade da aprendizagem de máquina, no entanto o que verificamos é que ainda estamos errando ao analisar a biometria das pessoas.

Fraude deepfake é uma ameaça crescente

A fraude deepfake é uma ameaça crescente, e as ferramentas de detecção devem ser aprimoradas para proteger todas as pessoas, independentemente de sua raça ou etnia.

Um exemplo é a notícia de que a polícia de Hong Kong prendeu seis pessoas que usaram deepfakes para enganar bancos e outros credores. Os suspeitos adulteraram oito imagens roubadas, juntamente com carteiras de identidade de Hong Kong furtadas e comprovantes de endereço e renda. Eles supostamente usaram documentos fraudulentos para solicitar pelo menos 20 empréstimos online, um dos quais foi aprovado para HK$ 70.000 (US$ 8.937).

Em outro caso, um cidadão japonês foi enganado para comprar HK$ 1.700 (US$ 216) em créditos de jogos de computador. A vítima foi enganada por uma videochamada fraudulenta em que um golpista trocou o rosto com o CEO de um banco de Hong Kong.

A escala MST foi desenvolvida pelo professor de Harvard, Dr. Ellis Monk, e fornece um espectro mais amplo de tons de pele que pode ser aproveitado para avaliar conjuntos de dados e modelos de aprendizado de máquina para melhor representação.

“A escala MST é um avanço importante para a compreensão dos tons de pele dos sistemas de visão computacional”, disse Fei-Fei Li, diretora do Centro de Pesquisa para IA Responsável e Tecnologia Centrada no Ser Humano do Google. “Ao abrir o código-fonte para a comunidade de aprendizado de máquina, esperamos que outros incorporem a escala em seus processos de desenvolvimento e que possamos melhorar coletivamente esta área da IA.”

O Google está trabalhando com o Dr. Monk para refinar ainda mais a escala. O código-fonte está disponível no GitHub.

Ao contratar serviços de reconhecimento facial, verifique a escala de tons de pele utilizada em seus softwares. Só assim caminharemos em direção de uma IA mais justa e inclusiva.

No vídeo a seguir você assistirá Dr. Ellis Monk explicar por que ele desenvolveu a Escala de Tom de Pele MST e a importância de promover ambientes de desenvolvimento mais inclusivos

Como proteger os dados e a identidade de pessoas vulneráveis? Por Regina Tupinambá

BCI: mentes humanas controlando máquinas. Por Susana Taboas

Acompanhe como o reconhecimento facial e impressões digitais, de íris e voz estão sendo utilizados para garantir a identificação digital precisa para mitigar fraudes e proporcionar aos usuários conforto, mobilidade e confiança. Crypto ID, o maior canal brasileiro sobre identificação digital. Leia outros artigos aqui!

Learn how facial recognition and iris, voice and fingerprints are being used to ensure accurate digital identification to mitigate fraud and provide users with comfort, mobility and trust. Read other articles here! Crypto ID, the largest Brazilian channel on digital identification. Read other articles here!

Descubra cómo se utilizan el reconocimiento facial y el iris y las huellas dactilares del voz para garantizar una identificación digital precisa para mitigar el fraude y brindar a los usuarios comodidad, movilidad y confianza. Crypto ID, el mayor canal brasileño de identificación digital. ¡Lea otros artículos aquí!

Somos o maior portal brasileiro sobre Criptografia e Identificação Digital.

Com uma década de existência, temos um público de cerca de 2 milhões de leitores por ano.

As empresas que nos apoiam e nossos colunistas ajudam a criar um mundo digital mais seguro, confiável e tranquilo.

Acompanhe o Crypto ID nas redes sociais!

Você quer acompanhar nosso conteúdo? Então siga nossa página no LinkedIn!