Na Magalu desde 2019, Robson Santos, que é gerente de Pesquisa e Desenvolvimento, falou na visita do MEX com muita propriedade sobre os avanços da Inteligência Artificial (IA). Ele que é doutor em Artes e Design, pela PUC-Rio, e também professor e pesquisador em design, com foco em usabilidade, interação humano/computador para produtos e serviços digitais, explora aqui um pouco mais desse admirável mundo (não tão novo) da IA. Confira!
MEX BRASIL – Quando o tema é inteligência artificial, o que temos a ganhar? O que temos a perder? O que temos que temer?
Robson Santos – A inteligência artificial é uma ferramenta muito útil para combater fraudes, auxiliar na educação e até mesmo na agricultura e na medicina. Isso pode ser muito bom para as pessoas. Mas é claro que toda inovação rompe com alguma coisa do passado. A privacidade e a individualidade, por exemplo, são aspectos valorizados na nossa sociedade urbana. Certamente o grande volume de dados que colocamos a nosso respeito pode ser usado para burlar nossa própria privacidade. Então isso exige atenção. Agora, um dos aspectos mais relevantes a ser considerados como temerário é a presença de vieses no desenvolvimento de sistemas de IA e no treinamento dos modelos. Isso sim pode levar a erros de julgamento e a aumentar a discriminação e a desigualdade entre diversas populações afetadas. Um exemplo é a implantação de sistemas de segurança pública baseado no reconhecimento facial. A grande maioria dos modelos ocidentais foram desenvolvidos e treinados por pesquisadores e desenvolvedores brancos, com muitos exemplos de rostos brancos. Daí podemos ter problemas muito sérios de pessoas não brancas sendo incriminadas pelo fato do sistema não conseguir distinguir traços faciais de negros com a mesma facilidade de uma pessoa branca. Outro ponto a temer é a interpretabilidade das decisões e recomendações feitas por sistemas de IA, pois uma vez que nem sempre sabemos como os dados são tratados e como o sistema realmente funciona, nem sempre podemos ter a capacidade de interpretar e aplicar os resultados apresentados.
MEX BRASIL – Então, quando falamos de IA é melhor confiar, desconfiando?
Robson Santos – Minha orientação sempre é deque podemos usar as tecnologias, sim! Sou um entusiasta disso. Porém devemos confiar mesmo em nossa habilidade humana do “desconfiômetro”. Buscar contraprovas, uma segunda opinião, rever a literatura etc. De maneira prática recomendo que as empresas estabeleçam grupos de trabalho formados por perfis diversos (gênero, raça, sexualidade) e que sejam estrutura das atividades de curadoria, ao menos nos meses iniciais de implantação de algum sistema baseado em IA. Com isso, creio que decisões mais eticamente responsáveis poderão ser tomadas a partir dos resultados emitidos pelos sistemas de IA. Ou seja: não é porque o “computador disse”, que a resposta é verdadeira.
“Para mim o presente é uma janela estreita para o futuro. Gosto de pensar o futuro como algo que começa a ser construído com base em uma inquietação. É como pensar
sempre: como ser melhor? O que ainda falta? Penso que minha paixão está em armazenar repertório para ajudar a construir o futuro.” Robson Santos, gerente de Pesquisa e Desenvolvimento na Magalu.
MEX BRASIL – Somos e seremos cada vez mais guiados pelos algoritmos?Isso é bom, ruim ou depende?
Robson Santos – Um algoritmo em si não é necessariamente algo perverso. A intenção colocada na criação de determinado algoritmo, sim, pode e deve ser sempre questionada. Assim, isso dependerá muito do nível de envolvimento e consciência das pessoas sobre essa ferramenta.
MEX BRASIL – Quais os principais vieses inconscientes que a produção da IA pode afetar nosso futuro ?
Robson Santos – Os vieses são sempre relacionados com a estrutura em que as pessoas envolvidas vivem e desenvolvem seus trabalhos. Vale dizer que nem sempre são inconscientes, muitas vezes são parte de um plano. Hoje, grande parte dos pesquisadores que estudam e desenvolvem sistema de IA são homens. Isso já coloca em cheque se tais sistemas conseguem levar em consideração a visão de mundo de milhões de mulheres de diversas regiões e extratos socioeconômicos. Daí, acabamos por ver, até mesmo em produtos de mercado a presença de assistentes virtuais que emulam uma persona feminina como aquela que está sempre disponível para ajudar. Como citei anteriormente, há, por exemplo, também o viés racial. Colocando esses dois fatores numa pirâmide de desfavorecidos pela IA, temos que, em países como o Brasil, a mulher negra pode vir a ser a menos beneficiada por tais tecnologias, caso não levantemos a voz para discutir de maneira clara e ampla a utilização dessas soluções tecnológicas.
MEX BRASIL – E finalmente, como as executivas do MEX podem utilizar a IA em suas empresas para incrementar o atendimento ao seus clientes, por exemplo?
Robson Santos – O primeiro passo é utilizar a IA para organizar as bases de dados de clientes (sempre considerando a Lei Geral de Proteção de Dados), a partir daí, pode-se mapear perfis, dividirem grupos de interesses, mapear jornadas com a marca. A IA pode ser utilizada para redigir mensagens individualizadas, de acordo com o contexto, gerar imagens e outros elementos visuais e de design para dar um tom de exclusividade para cada pessoa. Quando se tratado atendimento ao cliente, todos nós gostamos de ser tratados como um indivíduo único e não mais um número em uma base de dados. Essas sugestões podem ajudar a empresa a ganhar velocidade e escala no atendimento ao cliente, porém sempre considerando que é importante que a empresa tenha seu tom de voz, sua forma de comunicar e de se apresentar ao público. Daí que os técnicos precisarão treinar a IA para produzir esses conteúdos de acordo com a personalidade da empresa ou de seus fundadores ou líderes. Também pode-se automatizar o atendimento ao cliente e oferecer resolução prévia de problemas, por meio de uma consulta às Perguntas feitas frequentemente (FAQ). Porém, mesmo com a utilização de IA, é de fundamental importância que existam pessoas dedicadas à elaboração dos prompts, de exemplos que ensinam a máquina a se comportar. Também pessoas dedicadas a realizar uma cuidadosa curadoria das perguntas, resposta se outros conteúdos gerados automaticamente.
“Um conselho? Pense sempre para além das fronteiras do cotidiano. Veja um filme diferente. Visite uma exposição de arte contemporânea. Leia filosofia. Olhe a natureza ao redor. Sorria e espere o mundo sorrir de volta. Seu repertório aumenta. Suas possibilidades para o futuro também.” Robson Santos, gerente de Pesquisa e Desenvolvimento na Magalu.
Conteúdo por: Angela Wanke
Fotografia por: Rick Nogueira
