Como é ser ético profissionalmente relacionado ao uso da tecnologia?

Um dos focos do nosso blog é acompanhar o que vem sendo discutido nos encontros sobre tendências tecnológicas e lições aprendidas decorrentes das aplicações das tecnologias emergentes da informação (TEI) na sociedade e nos ambientes de negócios.

A QCON Conference é um dos fóruns mais conhecidos e frequentados por especialistas em Tecnologia da Informação no mundo. No evento recentemente realizado em Londres foram contempladas dezoito trilhas que cobriram quase todas as principais tendências atuais quanto à aplicação das TEI, mas três temas ressaltaram-se como predominantes: Inteligência Artificial / Machine Learning, Microservices e Ética.

Vamos aqui nos concentrar nas questões relacionadas à ética. Em conformidade com os conferencistas que trataram do tema na referida conferência, cada vez mais são evidenciadas preocupações quanto aos aspectos ligados às questões éticas associadas ao software e demais aspectos do uso das tecnologias emergentes da informação (TEI), e suas repercussões no mundo dos negócios, nas pessoas e na sociedade.

Constata-se que tais questões são relevantes não só para as organizações, mas também para os executivos e especialistas, sendo atualmente um foco bastante sensível no domínio da ciência de dados, da inteligência artificial e da aprendizagem de máquina (machine learning).

Outro espaço que abordou o tema da ética foi a Open Data Science Conference recentemente realizada. Nela, o professor Jeffrey Saltz salientou em sua palestra no evento questões relacionadas à ética na gestão das equipes de ciência de dados: como garantir que minha equipe não exponha minha organização a problemas relacionados ao uso indevido de dados e / ou algoritmos?

O recente caso da empresa Cambridge Analytica e o efeito danoso sobre a sua reputação , levando-a ao fim de suas operações , deve servir de alerta para aqueles que ainda não se preocupam com a dimensão ética nas aplicações das tecnologias emergentes da informação.

O tema das questões morais e éticas relacionadas ao uso da inteligência artificial têm sido amplamente abordado não só no exterior, mas também aqui no Brasil. Vamos salientar duas delas recentemente publicadas.

Ética e inteligência artificial foi o tema tratado por Dora Kaufman no Valor Econômico em dezembro de 2017. Ela nos fala que "os algoritmos de inteligência artificial estão interferindo em um conjunto amplo de atividades, em geral sem transparência.

Ou seja, desconhecemos os critérios de avaliação em situações cotidianas tais como contratação de empréstimo bancário, seleção para vagas de emprego", entre outras situações do dia a dia da vida dos cidadãos.

Limite da IA frente aos dilemas éticos e morais é outro alentado trabalho publicado à mesma época do anterior, no qual seus dois autores, Gabriel Di Biasi e Rodrigo Cantarino, questionam "as implicações morais e éticas do funcionamento de máquinas capazes de aprendizado aumentado".

Dentre as questões abordadas pelos autores, a que mais nos chamou a atenção foi a de que "a inteligência artificial precisa ter um padrão de transparência auditável".

Segue ainda a afirmação de que "a responsabilização jurídica por atos de máquinas programadas com inteligência artificial avançada deve ser direcionada a seus programadores, ou àqueles responsáveis por operar e colocar no mercado o objeto".

As recentes discussões sobre as Cidades Inteligentes, que englobam a utilização da Tecnologia da Informação para a melhoria da qualidade de vida nas cidades, mostram que tais aplicações possuem um enorme potencial para contribuir positivamente com as nossas cidades e seus cidadãos.

Dentre as tecnologias que terão um enorme impacto em nossas vidas nas próximas décadas, encontram-se o Monitoramento em Tempo Real, a Ciência de Dados e a Inteligência Artificial (IA).

No entanto, como tem sido assinalado, essas mesmas tecnologias podem trazer sérios problemas à privacidade e segurança desses mesmos cidadãos e, caso não aplicadas corretamente, podem exacerbar ao invés de diminuir as desigualdades sociais e os preconceitos já existentes na sociedade.

Cabe assinalar que já existem iniciativas para incorporar cuidados éticos no uso da ciência de dados. Nesta linha, o Reino Unido publicou uma primeira "versão beta" de uma estrutura para avaliação de questões éticas na utilização da ciência de dados nas aplicações de governo, o Data Science Ethical Framework.

Embora sendo uma publicação de certa forma específica para o contexto do Reino Unido, trata de questões aplicáveis para outros ambientes, tanto no setor público como nas empresas privadas, baseadas em princípios como a clareza quanto ao benefício publico, invasão mínima da privacidade das pessoas quanto ao uso de seus dados, e transparência e respeito às percepções das mesmas quanto ao que está sendo feito.

Outra fonte de informações sobre a relevância do respeito às questões éticas no tratamento dos dados dos cidadãos pode ser encontrada na entrevista de DJ Patil, primeiro executivo de ciência de dados do governo norte americano na gestão de Barack Obama: "quando você trabalha com dados, você tem oportunidades incríveis de fazer grandes coisas com os mesmos, mas também tem o poder de fazer algo que pode ser muito problemático".

Na perspectiva do entrevistado a principal questão a responder é: como usar os dados preservando a privacidade das pessoas e garantindo a segurança cibernética (cybersecurity)?

Concluímos estas considerações com um consenso que nos pareceu estar presente em todas as leituras que fizemos a respeito do tema: o desafio de implementação de padrões éticos nos ambientes das tecnologias emergentes da informação não é simples nem trivial.

Retornando ao que foi tratado por Dora Kaufman e por Di Biasi e Cantarino, reproduzo aqui o que mais me marcou nos dois excelentes artigos:

É preciso uma discussão sobre os limites que devem ser considerados no uso da inteligência artificial, e sobre quem deve ser responsabilizado no caso de erros ou falhas dele decorrentes;

A relativa autonomia conquistada pelas máquinas, quando não mais seguem processos de decisão pré-programados pelos humanos e começam a aprender por si mesmas, coloca para a sociedade novas questões éticas e a urgência de estabelecer arcabouços legais e regulatórios;

Faz-se necessário, então, começar a regular os modelos matemáticos pelos seus "modeladores", criando-se códigos de ética similares àqueles existentes para outros domínios do conhecimento como o setor de saúde, por exemplo;

Como consequência a inteligência artificial precisa ter um padrão de transparência auditável, cabendo a responsabilização jurídica dos responsáveis pelo desenvolvimento e lançamentos dos produtos em caso de geração de outputs moralmente ou juridicamente reprováveis.

Gostou da publicação? Quer conversar a respeito do tema? Fale conosco por e-mail: ou por telefone: 55 (21) 98112–6660.

Como a ética atua na tecnologia?

Quais os comportamentos éticos que um profissional de TI deve ter?

O que pensa sobre a ética na tecnologia da informação?

Qual o maior desafio ético na área de tecnologia?