No dia da Consciência Negra devemos refletir se estamos utilizando métodos de reconhecimento facial de forma inclusiva
No dia 20 de novembro, celebramos o Dia da Consciência Negra, uma data importante para refletir sobre a luta contra o racismo e a discriminação. Em um mundo cada vez mais tecnológico, é fundamental que os sistemas de inteligência artificial (IA) sejam inclusivos e não perpetuem vieses contra grupos minoritários.
Por Susana Taboas
Um dos desafios da IA é o viés de representação, que ocorre quando os conjuntos de dados usados para treinar os modelos são tendenciosos. Isso pode levar a resultados imprecisos ou discriminatórios, especialmente quando se trata de sistemas que lidam com identificação biométrica, como reconhecimento facial.
Um exemplo disso é o fato de que métodos de detecção de deepfakes nem sempre funcionam em pessoas com tons de pele mais escuras. Isso ocorre porque os conjuntos de dados usados para treinar esses modelos são geralmente dominados por pessoas brancas.
Para ajudar a resolver esse problema, o professor de sociologia da Universidade de Harvard, Ellis Monk, desenvolveu uma escala de tons de pele que oferece um espectro mais amplo do que a escala de Fitzpatrick, mais comumente usada pelas empresas. Veja no artigo que publicamos em agosto de 2023
A escala Monk foi desenvolvida após um estudo realizado pelo professor Monk em colaboração com o Google, no qual cerca de 3.000 pessoas nos Estados Unidos foram entrevistadas. No decorrer do estudo, muitas pessoas disseram que a escala de 10 pontos correspondia à sua pele tão bem quanto uma paleta de 40 tons.
O objetivo de Monk foi criar um novo padrão que funcione para a maioria das pessoas no mundo que são pessoas de cor diferente da branca.
A escala Monk pode ajudar a melhorar os sistemas de IA de várias maneiras. Por exemplo, ela pode ser usada para:
- Avaliar a representatividade de conjuntos de dados de treinamento de IA;
- Identificar e corrigir vieses em modelos de IA;
- Desenvolver modelos de IA mais precisos e inclusivos.
O Google abriu o código-fonte da Escala de Tom de Pele MST para que outras empresas possam incorporá-la em seus processos de desenvolvimento de produtos.
A adoção da escala Monk é um passo importante para a construção de uma IA mais justa e inclusiva. Ao usar essa escala, as empresas podem garantir que seus sistemas de IA sejam mais precisos e confiáveis para todos, independentemente de sua raça ou etnia.
A importância de promover ambientes de desenvolvimento mais inclusivos
Além de adotar a escala Monk, é importante que as empresas promovam ambientes de desenvolvimento mais inclusivos. Isso significa ter uma equipe diversificada de engenheiros e pesquisadores que possam trazer diferentes perspectivas para o processo de desenvolvimento de IA.
Um ambiente mais inclusivo também deve garantir que outras etnias tenham oportunidades de participar de testes e validações de sistemas de IA. Isso ajudará a garantir que os sistemas sejam projetados para atender às necessidades de todos os usuários.
A inclusão de pessoas de diferentes etnias nas equipes de desenvolvimento de soluções biométricas pode ajudar a garantir que esses sistemas sejam projetados para atender às necessidades de todos os usuários. Essas equipes podem trazer diferentes perspectivas e experiências para o processo de desenvolvimento, o que pode ajudar a identificar e corrigir vieses nos sistemas.
Aqui estão algumas maneiras de promover a inclusão de diferentes etnias nas equipes de desenvolvimento de soluções de tecnologia:
Empresas e organizações devem fazer um esforço para recrutar funcionários de diferentes etnias. Isso pode ser feito através de programas de recrutamento específicos para grupos minoritários, parcerias com organizações que representam grupos minoritários ou simplesmente sendo mais proativos na busca de candidatos de diferentes etnias.
A inclusão de diferentes etnias nas equipes de desenvolvimento de soluções de tecnologia é um passo importante para garantir a precisão, a equidade e a confiança desses sistemas.
A construção de uma IA mais justa e inclusiva é um desafio, mas é essencial para construir um mundo mais equitativo. A adoção da escala Monk e a promoção de ambientes de desenvolvimento mais inclusivos são passos importantes nessa direção.
Sobre Susana Taboas
Susana Taboas | COO – Chief Operating Officer – CryptoID. Economista com MBA em Finanças pelo IBMEC-RJ e diversos cursos de extensão na FGV, INSEAD e Harvard University. Durante mais 25 anos atuou em posições no C-Level de empresas nacionais e internacionais acumulando ampla experiência na definição e implementação de projetos de médio e longo prazo nas áreas de Planejamento Estratégico, Structured Finance, Governança Corporativa e RH. Atualmente é Sócia fundadora do Portal Crypto ID e da Insania Publicidade.
Leia outros artigos escritos por Susana.
Acesse o LinkeIdin da Susana!
A escala de Tons de Pele MST é um importante passo em direção a uma IA mais justa e inclusiva.
Ministério da Igualdade Racial promove debate sobre o Racismo Algorítmico
A Jornada De 10 anos Do Crypto ID: Do Pioneirismo À Referência
Em novembro desse ano completaremos uma década. Desde 2014, construímos uma comunidade apaixonada e engajada, que cresce a cada ano que passa. Atualmente, dois milhões e meio de usuários únicos, por ano, acessam nosso portal e fazem a nossa jornada ser marcada por conquistas, inovação e colaboração.
As empresas mantenedoras têm sido o pilar fundamental para o nosso crescimento contínuo. Esse apoio nos permite manter a qualidade e a relevância das informações que compartilhamos. Agradecemos a cada uma das empresas por acreditar em nossa missão e nos ajudar a construir uma comunidade bem informada e mais segura.
Cadastre-se para receber o IDNews e acompanhe o melhor conteúdo do Brasil sobre Identificação Digital! Aqui!
Acompanhe como o reconhecimento facial, impressões digitais, de íris e voz e o comportamento das pessoas estão sendo utilizados para garantir a identificação digital precisa para mitigar fraudes e proporcionar aos usuários conforto, mobilidade e confiança. Crypto ID é, sem dúvida, o maior canal brasileiro sobre identificação digital. Leia outros artigos aqui!
