Big Data Analytics para Profissionais Non-Tech - Compliance e Inteligência Artificial - por Fabiano Castello

Artigo

12 Maio, 2018

Compliance e Inteligência Artificial
em algum momento vão ter que andar juntas 

"Mas é assim que está no sistema, senhor. Não posso fazer nada!" Quem já não esteve numa situação onde ouviu esta frase como forma de encerrar um assunto? Pare e pense um pouco como historicamente a maioria de nós sempre confiou em computadores. É quase como o simples fato de estar num sistema de computador conferisse credibilidade. O mundo está mudando e cada vez mais sabemos que sistemas são desenvolvidos por pessoas, e usam dados em sua maioria inseridos por pessoas, e que, no final do dia, sistemas só fazem a coisa certa se são programados para fazer certo as coisas.

Esta "fé" que já não é cega em sistemas ainda não chegou no mundo da inteligência artificial. Pessoalmente sou fã desta nova tecnologia, e aqui incluo machine learning, deep learning e redes neurais porquê, no fundo, tudo isto é inteligência artificial. Acredito no seu potencial, ensino, vendo serviços baseados nela. O problema é que muita gente ainda acha que inteligência artificial vai resolver até problema de casamento, que serve para tudo e que é infalível. A explosão desse assunto na mídia está criando, da mesma forma que no passado em relação aos sistemas, uma "fé cega" em algorítmos.

O que inspirou esta coluna foi um TED de Cathy O´Neil (veja no Youtube aqui) que tem justamente o nome "a era da fé cega em big data precisa acabar". O tema central de Cathy, que ela também explora em seu interessante livro publicado em 2016, "Weapons of Math Destruction", é o fato de que algoritmos estão se espalhando por toda a parte e acabam decidindo quem recebe um empréstimo, quem é chamado para uma entrevista de emprego e qual o prêmio do seu seguro - mas não necessariamente tornam a sociedade mais justa. Ela sugere que algoritmos, por serem difíceis de serem compreendidos por muitas pessoas, podem intencionalmente reproduzir preconceitos e perpetuar dinâmicas de desigualdade. Os exemplos são fartos, impactantes e fáceis de serem entendidos.

Aprofundando o estudo sobre o tema, percebi que Cathy tem muitos críticos, principalmente porque afirma em muitos lugares e de diversas formas que "ninguém está prestando atenção ou fazendo alguma coisa a respeito". Não é totalmente verdade. Existe, por exemplo, um grupo acadêmico baseado em Princeton, denominado FAT-ML ("Fairness, Accountability, and Transparency in Machine Learning") que justamente reconhece que inteligência artificial traz novos desafios para assegurar não-discriminação, diligência e transparência nos processos de descisão. O grupo tem farta produção acadêmica sobre o tema.

A questão central é que, a despeito da farta produção acadêmica, esta preocupação definitivamente não chegou ao dia a dia das empresas: ainda não existe a figura do auditor interno especializado para trazer conforto para a Adminsitração que algorítimos são efetivos dentro do que se propõe em seus objetivos, bem como ainda não existe a figura do profissional de compliance que tenha conhecimento para verificar se os algorítmos estão de acordo com as políticas da empresa - promover diversidade e combater sexismo, apenas para começar! 

Definitivamente é uma necessidade, com certeza cada vez mais presente, e que abre muitas possibilidades para aqueles que quiserem investir em conhecimento técnico em inteligência artificial. Voltarei a explorar este tema no futuro. Abraços e até o mês que vem. 

EM TEMPO, já está no site o Master Big Data Analytics para Profissionais Non-Tech, Powered by Watson and Qlik, que acontecerá em São Paulo no mês de julho. Conheça o programa e inscreva-se! Nos vemos lá!