Últimas notícias

Fique informado

5 prioridades principais para ajudar a mitigar o preconceito em sistemas de Inteligência Artificial

2 de junho de 2021

Spotlight

Philip R. Zimmermann apresenta o 3º episódio AET Security Topics: Quantum Key Distribution

Philip R. Zimmermann, um dos maiores criptógrafos, apresenta uma nova webserie. Não perca o 1º episódio! Com legenda em português!

15 de setembro de 2021

NSA publica atualização sobre criptografia resistente a quantum

A NSA publicou o FAQ “Quantum Computing and Post-Quantum Cryptography. Confira nesse artigo!

3 de setembro de 2021

A condição paradoxal do hacktivismo

O início dos anos 2000 foi marcado pela formação do movimento Anonymous e por ataques relevantes, classificados como hacktivistas.

1 de setembro de 2021

CertForum 2021: Fórum Mundial de Assinatura Digital

Como parte integrante do CertForum, será realizado o Fórum Mundial de Assinatura Digital, com o objetivo de ampliar o debate do uso da assinatura digital.

1 de setembro de 2021

CertForum 21: evento on-line para quem quer saber tudo sobre identificação digital e documentos eletrônicos

O CertForum é realizado pelo Instituto Nacional de Tecnologia da Informação (ITI) e organizado pela Associação Brasileira das Empresas de Tecnologia em Identificação Digital (ABRID).

31 de agosto de 2021

Soluti e BSSP realizam a 2ª edição do Congresso Nacional Online Pensar Contabilidade

Congresso 100% gratuito e online destinado a profissionais e estudantes

21 de maio de 2021

Certisign: o que você precisa saber do Pix cobrança e QR Code para não cair em golpes digitais

Pix Cobrança, modalidade na qual o boleto bancário é substituído por um QR Code ja está em funcionamento

17 de maio de 2021

73,4% dos empreendedores estão vendendo online durante a pandemia, revela pesquisa da Serasa Experian

Redes sociais lideram a lista de canais mais usados pelas micro, pequenas e médias empresas para comercializar produtos e serviços, revela pesquisa da Serasa Experian

12 de maio de 2021

Entrevista com Oscar Zuccarelli da Certisign sobre segurança cibernética

Oscar Zuccarelli, Gerente de Segurança da Informação, Proteção de Dados e Prevenção a Fraudes da Certisign.

22 de abril de 2021

Veja o que diz a Serasa sobre as mudanças na declaração IRPJ 2021. Ouça

A Serasa Experian é líder na América Latina em serviços de informações para apoio na tomada de decisões das empresas.

3 de fevereiro de 2021

Veja o que diz Miguel Martins da AET Europe sobre gerenciamento de eIDS. Ouça

Como traçar a estratégia de IAM para sua organização? Confira o que diz a AET Europe, líder global em gerenciamento de identidades.

19 de janeiro de 2021

Tudo o que os comerciantes precisam saber sobre o PIX pela Soluti. Ouça

A Soluti, especialista em tecnologia da informação, explica em detalhes o funcionamento do PIX para os comerciantes

14 de dezembro de 2020

AET Europe e AARB reunem-se para gerar negócios para as ARs

AET Europe é uma empresa global na área de soluções de segurança digital. Com matriz na Holanda, escritórios na Suíça e em Portugal e representação no Brasil.

12 de abril de 2019

IBM acredita que para obter pleno aproveitamento do poder transformador da Inteligência Artificial é preciso desenvolvê-la e avaliá-la continuamente

Não há dúvidas de que os vieses humanos podem influenciar os algoritmos de inteligência artificial (IA), propiciando respostas tendenciosas. Mas também é difícil determinar o quanto estes preconceitos estão infiltrados nas tecnologias que desenvolvemos e utilizamos em nossas atividades do dia a dia.

No entanto, embora a mitigação dos vieses na inteligência artificial ainda seja um desafio para alguns modelos e sistemas de tomada de decisão, é imperativo reduzir a probabilidade de resultados indesejáveis. 

Nossa sociedade continua a evoluir com a rápida inovação de tecnologias emergentes, especialmente IA. Indústria, academia, governos e consumidores têm a responsabilidade compartilhada de garantir que os sistemas de IA sejam devidamente testados e avaliados quanto ao potencial de polarização.

Além disso, qualquer ação ou prática proibida pela legislação antidiscriminação em vigor também deve ser aplicada. Para apoiar as estratégias de mitigação de preconceito, as organizações devem trabalhar para criar, implementar e colocar em prática os princípios éticos da IA ​​e garantir a governança adequada para revisão e supervisão contínuas. 

A IBM acredita que para obtermos o pleno aproveitamento do poder transformador da Inteligência Artificial é preciso desenvolvê-la e avaliá-la continuamente, com o compromisso de evitar resultados discriminatórios e que possam prejudicar negativamente as pessoas e suas famílias.

Um aspecto fundamental do desenvolvimento responsável da IA está exatamente em identificar e mitigar os vieses. Um ponto crítico do desenvolvimento de IA responsável é o foco na identificação e mitigação de preconceitos.

Nos últimos anos, a IBM compartilhou resultados de pesquisas, disponibilizou ferramentas e forneceu às empresas e aos seus consumidores uma melhor compreensão dos sistemas de IA. Isso inclui o AI Fairness 360 ToolkitAI FactSheets IBM Watson OpenScale, bem como novos recursos do IBM Watson, projetados para ajudar as empresas a construir uma IA confiável. 

No ano passado, o IBM Policy Lab pediu uma “regulamentação de precisão” para fortalecer a confiança na IA com uma estrutura baseada em princípios, como responsabilidade, transparência, justiça e segurança, solicitando que ações sejam tomadas ao mesmo tempo.

À luz de como o diálogo público sobre preconceitos em IA evoluiu, essa perspectiva é mais importante do que nunca.

É por isso que, em resposta à atenção renovada às desigualdades e como a tecnologia – em áreas como justiça criminal, serviços financeiros, saúde e recursos humanos – pode ser mal utilizada para exacerbar as injustiças, a IBM sugere que os legisladores tomem medidas adicionais para moldar um ambiente legislativo apropriado que aborda preocupações legítimas da sociedade. 

A IBM está comprometida em defender a diversidade, a igualdade e a inclusão em nossa sociedade, economia e tecnologia que construímos. Como tal, pedimos aos governos que implementem cinco prioridades para fortalecer a adoção de testes, avaliações e estratégias de mitigação de viés em sistemas de IA: 

1. Reforçar o conhecimento e a alfabetização em IA para toda a sociedade. Uma maior compreensão sobre o que é IA, seus benefícios potenciais e como interagir com os sistemas pode acelerar seu crescimento e confiança na tecnologia.

Além disso, o desenvolvimento e a implementação de uma agenda nacional de IA podem promover um ecossistema mais inclusivo e diverso, bem como apoiar a erradicação de conceitos errados.

Neste sentido, o aumento do investimento em educação para incluir IA nos currículos e o aumento do financiamento para pesquisas podem garantir uma gama mais diversificada de partes interessadas para orientar o planejamento, o desenvolvimento e a implementação de sistemas de IA no futuro.

Ministérios e agências de ciência e tecnologia também devem priorizar a construção de parcerias que promovam a equidade em IA. 

2. Exigir avaliações e testes para sistemas de IA de alto risco, com foco na proteção dos consumidores e, ao mesmo tempo, possibilitando a inovação. Isso significa exigir evidências e mitigação de vieses – conduzida de forma robusta e transparente – para sistemas de IA, como os usados ​​em tribunais.

Esses sistemas também precisam ser monitorados e testados continuamente.

Além disso, concentre-se nos requisitos de avaliação de pré-implementação para sistemas de IA de alto risco que apresentam um maior potencial de danos; documentar os processos de avaliação, torná-los auditáveis ​​e mantê-los por um período mínimo de tempo; convocar e conduzir fóruns nacionais e internacionais para acelerar o consenso para uma IA confiável.

Fornecer recursos e experiências para ajudar todas as organizações a garantir uma IA responsável; aumentar o investimento em pesquisa e desenvolvimento para teste e mitigação de vieses; e apoiar o treinamento acelerado de desenvolvedores em reconhecimento de polarização. 

3. Exigir transparência na IA por meio da divulgação. Os desenvolvedores e proprietários devem informar os usuários quando estes interagem com tecnologias de IA com pouco ou nenhum envolvimento humano, bem como ao usar um sistema de IA de alto risco.

Além disso, no caso de sistemas de tomada de decisão automatizados, no mínimo, o usuário deve ser informado por que e como uma determinada decisão foi tomada usando IA. 

4. Solicitar mecanismos para análise e feedback do consumidor. Os operadores de aplicativos de alto risco devem disponibilizar canais de comunicação (por exemplo, e-mail, número de telefone ou endereço postal) para esclarecer dúvidas, preocupações ou reclamações dos usuários.

Os proprietários devem agir com responsabilidade, conduzindo análises contínuas das preocupações dos consumidores e, quando necessário, trabalhar em questões sistêmicas. 

5. Estabelecer limitações universais ao uso de IA e adotar práticas de licenciamento responsáveis. Para evitar que os sistemas sejam explorados para usos ilegais, irresponsáveis ​​e prejudiciais, a IBM solicita o estabelecimento de limitações universais ao uso de aplicativos de IA de alto risco para proibir seu uso em vigilância em massa, discriminação racial e violação de direitos humanos e liberdades básicas.

Além disso, expanda o desenvolvimento, a educação e a adoção de termos de licença responsáveis ​​para software de código aberto e aplicativos baseados em IA. 

Novas leis, marcos regulatórios e diretrizes estão chegando para mitigar vieses nos sistemas de IA.

Desenvolvidas com base nas prioridades acima, essas medidas podem fornecer à indústria e às organizações requisitos claros de teste, avaliação, mitigação e educação para aumentar a confiança do consumidor e a segurança em inteligência artificial. 

Sebrae-SP usa inteligência artificial para aumentar proximidade com o empreendedor

Novo software identifica possíveis focos de incêndios florestais por meio de inteligência artificial

Sólides lança primeiro software com inteligência artificial para gestão de RH