Gouvernance de l'IA : décision systématique et contrôle humain
Laerte Finotelli analyse comment concilier suggestions algorithmiques et contexte humain pour éviter les décisions biaisées.
L'automatisation des décisions par des agents d'intelligence artificielle requiert des couches claires de gouvernance et d'audit. Dans Marketing - The Podcast, Laerte Finotelli explique pourquoi la technologie doit suggérer des pistes sans se substituer aux critères métiers.
L'adoption rapide des agents d'intelligence artificielle dans les processus marketing et produit a mis en lumière le défi de la gouvernance des données. Lors d'un échange avec Bruno Gimenes dans le cadre du Marketing - The Podcast, Laerte Finotelli, coordinateur produit, a analysé la manière dont les décisions automatisées doivent trouver un juste équilibre entre le traitement systématique des variables et le discernement humain face au contexte métier.
Dans la vidéo ci-dessus, l'épisode complet aborde la gouvernance des algorithmes et approfondit d'autres discussions sur la science des produits, les métriques publicitaires et l'attention du consommateur. La dynamique entre modèle prédictif et prise de décision gagne en clarté dès lors que l'on observe la façon dont la machine corrèle des volumes massifs de microdonnées pour proposer des actions.
La logique des microdonnées et le comportement algorithmique
En abordant la façon dont la technologie traite l'information, Finotelli fait appel à une analogie issue de l'ouvrage Nexus de Yuval Harari. Alors que le raisonnement humain a tendance à se méfier d'une accumulation excessive de justifications isolées pour une même situation, la machine fonctionne précisément en croisant simultanément des dizaines de signaux faibles pour calculer une probabilité.
Pour illustrer cette mécanique, Finotelli cite la tarification dynamique dans les applications de transport. Des paramètres tels que le niveau de batterie du téléphone, la probabilité de pluie, la localisation géographique exacte ou la proximité d'une sortie de concert sont combinés par le système pour recommander un tarif. L'algorithme se concentre sur la corrélation brute des données, à la différence d'un être humain qui évaluerait la situation sous un autre angle.
Couches d'audit et décision humaine
Pour éviter que les objectifs automatisés n'engendrent des distorsions ou n'opèrent sans transparence, Finotelli préconise que la technologie formule des recommandations étayées tout en laissant la décision finale aux critères humains.
« Je suis très favorable à ce que la machine fasse des suggestions. Ensuite, nous devons intégrer des étapes de gouvernance humaine pour accepter ou refuser cette suggestion avant de trancher », explique Finotelli, soulignant la nécessité d'interroger les corrélations qui sous-tendent chaque recommandation émise par le système.
D'un autre côté, le processus automatisé a l'avantage d'atténuer les impressions purement subjectives et le recours exclusif à l'intuition. La gouvernance idéale, selon Finotelli, repose sur deux axes complémentaires : « elle doit comporter une couche systématique pour éliminer efficacement les biais, tout en définissant jusqu'où l'action humaine doit ramener ces données à la réalité ». Cette intégration garantit que les politiques internes, les directives publiques et le sens des réalités guident le résultat final.