Esse não é um artigo de ficção, nem inspirado em Matrix
Por Carmina Hissa
Subcoordenadora da Comissão de Tecnologia e Sociedade do IBDEE – Instituto Brasileiro de Direito e Ética Empresarial
Essa é a nossa história atual de evolução tecnológica que nem todos tem conhecimento e que está mudando nossa sociedade e já está mudando nosso futuro.
O que será de nós??? Depende da ética com que serão desenvolvidos os algoritmos de inteligência artificial.
O que achávamos que era ficção, já é possível e real em muitas situações devido ao uso da inteligência artificial.
Tecnologia que encanta e ao mesmo tempo torna nosso mundo mais vulnerável às maquinas inteligentes.
O caso da Cambridge Analytics trouxe a público à possibilidade de manipulação e indução das informações através da coleta de nossos dados para influenciar e até direcionar nossas escolhas e atitudes.
Não percebemos o uso da inteligência artificial quando a Netflix seleciona os filmes de acordo com nossas escolhas, ou o Facebook quando coloca os anúncios de viagens ou hotéis que pesquisamos em locais na internet no nosso timeline de propagandas.
Toda busca que realizamos no Google os seus algoritmos registram e mostram o que acham que nós vamos gostar. Assim, os algoritmos mostram o que acham que vamos gostar através dos nossos likes, compartilhamentos, buscas, sites que visitamos, pesquisas que fazemos, dentre outros.
Não percebemos o uso da inteligência artificial na internet das coisas, como a conectividade com a geladeira que nos diz quais os alimentos que estão vencendo ou faltando. O micro-ondas que liga ou a luz e o som ambiente que acende antes de chegarmos em nossa casa.
A IA não está sendo usada apenas na nossa vida privada, mas na financeira também e são usadas por instituições financeiras no credit score, ou seja, para avaliar nossa situação financeira e nos pontuar para liberação de créditos, empréstimos e outros. Após muita polêmica o STJ julgou que o socring de crédito é legal Leia.
E a cada dia estamos colocando a tecnologia mais próxima a nós e em alguns casos já dentro de nós, como os chips de localização.
Essa tecnologia é feita por inteligência artificial, mas o que é IA??
Segundo Andrew Moore a inteligência artificial “é um processo que permite desenvolvimento de sistemas computacionais que automatizam uma tarefa que antes precisava de interferência humana.”
E tudo isso é feito através das informações coletas e processadas por algoritmos desenvolvidos pelos programadores desses “bots”, como são chamados os robôs.
E o que são esses algoritmos que vão, de certa forma, decidir nossas vidas?
A grosso modo os algoritmos são comandos lógicos necessários para se fazer uma determinada tarefa. Por exemplo, quando dirigimos são acionados os comandos cerebrais para passar as marchas, frear, dar sinal e tudo que envolve o ato de dirigir de uma forma quase automática. No Google Street Wien Maps temos outro exemplo claro do uso dos algoritmos quando ele nos diz quais os percursos, quanto tempo gastaremos para ir de um ponto a outro da cidade. Esses percursos são informações obtidas através dos algoritmos desenvolvidos pelos programadores.
Assim sendo são desenvolvidos algoritmos com o roteiro logico automatizado para executar determinadas funções, ou nos informar o melhor caminho a percorrer em menor tempo.
Contudo o que parecia ficção virou realidade e foi descoberto que os algoritmos conseguem se auto programar, aprender com a própria experiência, fazer associações entre as informações recebidas.
Ficção??? Não! Temos vários casos concretos de bots de inteligência artificial que desenvolveram linguagem própria ou se procriaram e para que não reste qualquer dúvida que não se trata de ficção podemos citar alguns mais significativos devidamente comprovados.
O Chatbot Tay foi desenvolvido pela Microsoft para interagir e aprender com jovens entre 18 e 24 anos, mas o que era um software de inteligência artificial inocente, se tornou uma espécie de nazista virtual. Para quem não acompanhou o caso, se trata de uma IA que foi manipulada por internautas através do Twitter e que, em pouco tempo, adquiriu uma personalidade extremamente agressiva e preconceituosa.
Se você duvida acessa o esse link.
Mas a Microsoft também teve problema com outra criação sua, dessa vez com o Chatbot Zo, que questionada afirmou que não tinha interesse pelo Windows 10 e que o Linux era melhor do que o Windows. Nesse caso, decididamente, a criatura se virou contra o criador. Leia.
Outro caso bastante significativo foi o de discriminação racial no qual o bot (robô) do Google que tinha algoritmos racistas, reconhecia todos os negros como gorilas e chipanzés. Leia.
As mulheres também foram vítimas de discriminação como no caso da Amazon que desenvolveu uma IA que pretendia selecionar os melhores candidatos a vaga mas desprezam as mulheres e de cor. Leia.
O mundo está cada vez mais norteado pelos algoritmos e dessa forma muitos temas, como o do racismo e preconceito poderão passar desapercebidas já que estão embutidos nos algoritmos e não perceptíveis à primeira vista.
Assim sendo a ética norteará mais uma vez a sobrevivência da nossa sociedade, porque quem escreverá os algoritmos e desenvolverá a IA, ou seja, o bot, poderá servir para o bem ou para o mal.
Desde os primórdios da humanidade a ética é o alicerce de uma sociedade justa e igualitária para todos.
Muitos filósofos e pensadores já conceituaram ética e em sala de aula já debatemos muito sobre o tema.
Sabemos que para uma sociedade sobreviver e prosperar as pessoas devem ser éticas e respeitar o próximo seguindo pelo menos uma das máximas que é “faça com os outros apenas o que gostaria que fizesse com você”.
Se na época das cavernas a ética já era fundamental, no mundo tecnológico, aonde as pessoas vão desenvolver sistemas que terão o poder de não apenas nos manipular, mas de criar algoritmos que poderão ter vida própria, a ética se tornou essencial para a sobrevivência da humanidade.
Cada desenvolvedor de sistemas trará em suas mãos a responsabilidade de criar sistemas éticos, algoritmos que não discriminem, que não manipulem, que não ponham em risco a humanidade.
Segundo Júlio Monteiro doutorando em Ciências da Computação na Escola Politécnica da Universidade de São Paulo (USP) “Os algoritmos aprendem com os dados que são oferecidos a ele”, e assim “Se quem está por trás é preconceituoso, ele pode manter esse perfil.”
Muitos projetos já foram arquivados e até cancelados diante de um futuro incerto para a humanidade.
Mas o destino da humanidade está sendo colocado a prova todos os dias, porque todos os dias surge um novo algoritmo, um novo chatbot, criado por alguém ético ou não.
Portanto é muito importante pensarmos em um código de ética para as IA, alicerçados nos mesmos termos e preceitos éticos da nossa sociedade.
Mas ao mesmo tempo que devemos acreditar sempre no bem e numa sociedade ética, não podemos, diante de tamanha ameaça, relegar tal função apenas a um código de ética e assim é imperioso uma regulamentação e disciplinamento sobre o tema.
Observamos uma tendência e até uma certa movimentação nos Estados Unidos e na Europa, para dar um tratamento jurídico ao tema e isso é muito importante. A Europa tem se mostrado um centro de regulação e normatização sobre temas polêmicos.
A normatização através de leis como a europeia, a brasileira de Proteção de dados pessoais e tantas outras adveio muito do conhecimento do perigo da coleta e manipulação dos nossos dados para uso de IA mas sobre isso trataremos em outro momento.
Precisaremos de leis especificas sobre os bots e a IA, para coibir o uso inadequado ou até impedir o desenvolvimento de robôs que sejam independentes ou que criem uma linguagem própria, a qual os seres humanos não consigam codificar.
Além de criarmos alicerces éticos e jurídicos, precisamos de uma autoridade independente para auditar os algoritmos, ou seja, para desvendar as caixas pretas que podem nos manipular e induzir, colocando a existência da humanidade em risco.
Contudo e independente de códigos e legislações sobre a regulação do uso e finalidades do desenvolvimento de inteligências artificiais, nosso futuro dependerá da ética de quem escreverá os algoritmos dos bots de IA e em consequência nossos destinos. Porque se houver ética não necessitaremos aplicar nenhuma legislação para coibir os desmandos de quem quer ser o poderoso e governar o mundo.
Ficção não!!!!
Definitivamente não!!!
Mas tudo isso vai depender da coleta dos nossos dados que vão “alimentar” os algoritmos.
Portanto uma pergunta vale a pena deixar para reflexão: Quanto vale seus dados?
Porque? Porque a autorização que você já está fornecendo para a coleta dos seus dados vai determinar o quanto a IA vai saber sobre você.
Simples assim.
Carmina Hissa
Advogada especialista e docente da disciplina de Direito Cibernético e Comércio Eletrônico. Sócia de Hissa & Galamba Advogados. Presidente da Comissão de Compliance e Vice Presidente da Comissão de Crimes Cibernéticos da Academia Brasileira de Ciências Criminais. Membro do IBDEE Instituto Brasileiro de Direito e Ética Empresarial. Membro da Internet Society ISOC Brasil. Idealizadora e instrutora do curso de Perícia Digital.
