Governança de IA exige decisão sistemática e validação humana
Laerte Finotelli analisa como equilibrar sugestões algorítmicas com contexto humano para evitar decisões enviesadas.
A automação de decisões por agentes de inteligência artificial exige camadas claras de governança e auditoria. Em debate no Marketing - The Podcast, Laerte Finotelli explica por que a tecnologia deve sugerir caminhos sem substituir o critério e as políticas de negócio.
A rápida adoção de agentes de inteligência artificial nas rotinas de marketing e produto trouxe à tona o desafio de estruturar a governança de dados. Em conversa com Bruno Gimenes no Marketing - The Podcast, Laerte Finotelli, coordenador de produto, analisou como decisões automatizadas precisam equilibrar o processamento sistemático de variáveis com o discernimento humano sobre o contexto de negócio.
No vídeo acima, o episódio completo aborda a governança de algoritmos e aprofunda outras discussões sobre ciência de produto, métricas publicitárias e atenção do consumidor. A dinâmica entre modelo preditivo e tomada de decisão ganha clareza ao observar como a máquina correlaciona volumes massivos de microdados para propor ações.
A lógica dos microdados e o comportamento algorítmico
Ao abordar a forma como a tecnologia processa informações, Finotelli recorre a uma analogia presente no livro Nexus, de Yuval Harari. Enquanto o raciocínio humano tende a desconfiar de um acúmulo excessivo de justificativas isoladas para uma mesma situação, a máquina opera exatamente cruzando dezenas de pequenos sinais simultâneos para calcular uma probabilidade.
Como exemplo dessa mecânica, Finotelli cita a precificação dinâmica em aplicativos de transporte. Parâmetros como o nível de bateria do celular, a probabilidade de chuva, o ponto geográfico exato ou a proximidade de uma saída de faculdade ou show são combinados pelo sistema para recomendar um preço de serviço. O algoritmo foca na correlação bruta dos dados, diferentemente de uma pessoa, que avaliaria a situação sob outra perspectiva.
Camadas de auditoria e decisão humana
Para evitar que metas automatizadas gerem distorções ou operem sem transparência, Finotelli defende que a tecnologia atue na formulação de recomendações embasadas, deixando a decisão final sob critérios humanos.
"Eu sou muito favorável à máquina fazer sugestões. E aí a gente tem que ter algumas etapas de governança pessoal para aceitar ou não aquela sugestão, para aí tomarmos decisões", explica Finotelli, destacando a necessidade de questionar quais correlações sustentam cada recomendação feita pelo sistema.
Por outro lado, o processo automatizado tem a vantagem de mitigar impressões puramente subjetivas e o apego ao feeling. A governança ideal, segundo Finotelli, opera em duas frentes complementares: "ela tem que ter uma camada sistemática, do tipo, o quanto que não interfere como ser humano é proveitoso, realmente vai eliminar vieses, mas até onde uma atuação humana ela vai trazer esses dados para a realidade?". Essa integração garante que políticas internas da empresa, diretrizes públicas e o senso de realidade direcionem o resultado final.