Os efeitos colaterais do Machine Learning

O SAS está há 42 anos no mercado e os algoritmos de inteligência articial e machine learning fazem parte do nosso mundo há muito tempo - certamente bem antes do surgimento das buzzwords do momento em analytics.

Uma das vantagens de todo este tempo de janela é que nós sabemos das consequências que a pressão para investir nessas "tendências" pode trazer - e também estamos preparados para responder aos eventuais efeitos colaterais.

Para começar, temos nossas plataformas tecnológicas e um modo de trabalhar que ajuda clientes que se interessam por evoluir suas estratégias de machine learning. Isso tudo evita que uma pessoa da área de tecnologia ou business analytics - que inclusive, pode estar se arriscando em certos conceitos - não crie um projeto que é super cool na teoria, mas que na hora de ser colocado em produção, vira pó.

O que descrevi acima é o pior cenário, mas situações assim podem ser evitadas detectando possíveis efeitos colaterais do uso de machine learning.

Técnicas baseadas em ML podem ser usadas para obter insights rápidos, que vão ajudar, por exemplo, a prever quando um cliente estiver propenso a sair da sua empresa. Isso pode gerar resultados em curto prazo e um lift muito expressivo para o negócio. O problema é quando a empresa não está acostumada a esse mundo operacionalmente, o que traz a questão: como obter esses insights e colocá-los em produção de maneira responsável?

Muitas organizações liderando estratégias de transformação digital - e principalmente no setor de serviços financeiros - se preocupam com isso. Muitos clientes nos questionam: como evoluir minha estratégia digital com analytics em seu core, mas com o DNA e valores de negócio da minha empresa?

Perguntas de clientes deste setor também podem incluir, por exemplo, como usar machine learning sem comprometer a informação dos clientes - o que realmente pode acontecer às vezes, especialmente quando a empresa parte para o uso de técnicas assim sem se preparar de forma adequada.

Normalmente, organizações explorando ML treinam uma base de dados com machine learning, e muitas vezes o fazem sem ter a menor ideia de métodos para tal. "Tocam o barco" enquanto os resultados são positivos, já que estas tecnologias podem ser uma verdadeira caixa preta. A certa altura, a empresa não consegue mais explicar o caminho decisório percorrido pelo cliente para chegar àqueles resultados. O que se obtém no fim são resultados muito bons com a base treinada e quando o projeto é colocado em produção, o que acontece é catastrófico.

Me recordo de um caso deste tipo, em uma empresa que havia desenvolvido um modelo de fuga. O modelo estava em produção há anos, fazendo muito bem o papel de antecipar a propensão de desligamento do cliente e possibilitando o posterior trabalho de retenção do cliente. A empresa então quis evoluir esse modelo, usando técnicas de machine learning. Essa prova de conceito gerou um grande resultado no laboratório, mas quando colocada em produção, despencou.

No caso de falhas assim, o que vem depois é tipicamente uma fase de questionamento. Inevitavelmente, stakeholders querem saber como o resultado foi ruim, se a performance era boa no laboratório. Mas quando se está usando machine learning, não há o embasamento estatístico para descobrir porque a base produtiva não está funcionando quando comparada à base de laboratório.

Se a empresa em questão tem um estatístico experiente à sua disposição e ele seguir o caminho tradicional - ou seja, usando técnicas que permitam uma visão clara do que está acontecendo com os dados com uma retenção logística - é possível detectar o "comportamento" do dado e como certos eventos podem ou vão afetar o modelo. Tendo feito isso, o machine learning entra em cena, para alavancar. Você se lembra de computadores de alguns anos atrás, que vinham com o botão boost? Essa analogia também funciona para o ML.

Tendo preparado as fundações, é possível usar machine learning com real efetividade. Mas, se houve algum problema na hora de colocar os dados em produção, o que você aprendeu com as regras tradicionais analíticas lhe possibilita explicar o que está acontecendo - e até tomar uma contramedida para utilizar o trabalho já feito até ali. 

Para estes casos, o SAS tem uma expertise produtiva, operacional e consultiva para dizer o que vale a pena, por exemplo se e como é possível aplicar o machine learning aos objetivos da empresa. Mas, antes de tudo isso, apresentamos também os possíveis efeitos colaterais e sugestões em termos do que é necessário fazer para se lançar num projeto desse tipo.

Nosso know how de ciclos analíticos nos permite deixar bem claro para o cliente o que funciona, o que realmente é efetivo como estratégia, versus o que é uma aventura baseada em apenas mais uma buzzword. Essa é garantia de evitar que uma organização opte por um caminho onde tempo e recursos sejam desperdiçados em um projeto fracassado.