Gobernanza de IA: decisión sistemática y validación humana
Laerte Finotelli analiza cómo equilibrar sugerencias algorítmicas con contexto humano para evitar decisiones sesgadas.
La automatización de decisiones mediante agentes de inteligencia artificial exige capas claras de gobernanza y auditoría. En Marketing - The Podcast, Laerte Finotelli explica por qué la tecnología debe sugerir caminos sin sustituir el criterio de negocio.
La rápida adopción de agentes de inteligencia artificial en las rutinas de marketing y producto puso en primer plano el desafío de estructurar la gobernanza de datos. En conversación con Bruno Gimenes en Marketing - The Podcast, Laerte Finotelli, coordinador de producto, analizó cómo las decisiones automatizadas deben equilibrar el procesamiento sistemático de variables con el discernimiento humano sobre el contexto del negocio.
En el video superior, el episodio completo aborda la gobernanza de algoritmos y profundiza en otras discusiones sobre ciencia de producto, métricas publicitarias y atención del consumidor. La dinámica entre el modelo predictivo y la toma de decisiones se vuelve más clara al observar cómo la máquina correlaciona volúmenes masivos de microdatos para proponer acciones.
La lógica de los microdatos y el comportamiento algorítmico
Al abordar cómo la tecnología procesa información, Finotelli recurre a una analogía presente en el libro Nexus, de Yuval Harari. Mientras que el razonamiento humano tiende a desconfiar de una acumulación excesiva de justificaciones aisladas para una misma situación, la máquina opera precisamente cruzando decenas de pequeñas señales simultáneas para calcular una probabilidad.
Como ejemplo de esta mecánica, Finotelli cita la fijación dinámica de precios en aplicaciones de transporte. Parámetros como el nivel de batería del teléfono celular, la probabilidad de lluvia, el punto geográfico exacto o la cercanía a la salida de una universidad o un concierto son combinados por el sistema para sugerir el precio de un servicio. El algoritmo se enfoca en la correlación bruta de los datos, a diferencia de una persona, que evaluaría la situación desde otra perspectiva.
Capas de auditoría y decisión humana
Para evitar que los objetivos automatizados generen distorsiones u operen sin transparencia, Finotelli defiende que la tecnología actúe en la formulación de recomendaciones fundamentadas, dejando la decisión final bajo criterios humanos.
"Estoy muy a favor de que la máquina haga sugerencias. A partir de ahí, tenemos que contar con etapas de gobernanza personal para aceptar o rechazar esa sugerencia, y recién entonces tomar decisiones", explica Finotelli, destacando la necesidad de cuestionar qué correlaciones sustentan cada recomendación emitida por el sistema.
Por otro lado, el proceso automatizado tiene la ventaja de mitigar impresiones puramente subjetivas y el apego a la mera intuición. La gobernanza ideal, según Finotelli, opera en dos frentes complementarios: "debe tener una capa sistemática, sobre cuánto resulta provechoso no intervenir como ser humano para realmente eliminar sesgos, pero también hasta qué punto la intervención humana aterrizará esos datos a la realidad". Esta integración garantiza que las políticas internas de la empresa, las directrices públicas y el sentido de realidad guíen el resultado final.