Démocratisation de l'IA : contrôle qualité et sécurité requis
Pedro Daniel explique comment les outils accessibles réduisent les coûts de développement tout en exigeant une expertise technique et une supervision humaine.
Pedro Daniel analyse la démocratisation de l'intelligence artificielle et l'impact des outils autonomes sur le développement de systèmes. Cet échange aborde la baisse des coûts pour les PME, les risques en cybersécurité et la nécessité d'une supervision humaine face aux baisses de qualité constatées.
Pedro Daniel, fondateur d'Escola de IA, est intervenu lors d'un échange avec Bruno Gimenes dans le podcast Marketing - The Podcast pour aborder l'impact de la démocratisation de l'intelligence artificielle sur le développement logiciel et les opérations d'entreprises de toutes tailles. Daniel estime que l'accès à des modèles avancés a considérablement abaissé les barrières à l'entrée pour les PME, tout en soulignant qu'un usage non encadré sans gouvernance technique engendre des failles de sécurité et une détérioration de la qualité des livrables.
Dans la vidéo ci-dessus, Daniel et Bruno explorent les répercussions opérationnelles de ces outils et partagent des exemples concrets d'application dans le quotidien des entreprises.
Accès aux outils et réduction des coûts techniques
L'évolution des plateformes d'intelligence artificielle permet désormais aux petites entreprises de mener à bien des projets qui exigeaient autrefois des budgets colossaux et d'importantes équipes d'ingénieurs. Daniel rappelle que les initiatives pionnières, à l'image de l'adoption de l'IA par iFood en 2016, nécessitaient des investissements de plusieurs millions de dollars. Aujourd'hui, des abonnements à 20 dollars par mois à des services tels que ChatGPT, Claude ou Gemini offrent la capacité d'unifier les données et d'automatiser rapidement des processus.
« L'intelligence artificielle a aujourd'hui démocratisé énormément de choses. Auparavant, pour disposer d'un pôle technologique dans une entreprise, il fallait investir des millions de dollars », explique Daniel. Il souligne que des systèmes nécessitant autrefois des centaines de milliers de réais peuvent désormais être mis sur pied en quelques jours : « L'intelligence artificielle a démocratisé une ressource qui a aujourd'hui plus de valeur que l'argent ou le pétrole : les données. On peut désormais unifier les données de son entreprise au sein d'un système unique ».
Failles de sécurité et rôle essentiel du développeur
Malgré la facilité de génération de code via des agents tels que Claude Code ou Codex, le déploiement d'applications fonctionnelles sans bases solides d'infrastructure et de protection expose des données sensibles. Daniel cite l'exemple de l'influenceur Abraham, qui a développé son propre système à destination de ses étudiants grâce à des assistants de programmation avant de relayer l'exploit sur les réseaux sociaux. L'absence de couches de sécurité a facilité l'intrusion dans l'environnement et la fuite des informations des utilisateurs.
« Aujourd'hui, créer un système est devenu très simple, mais le sécuriser reste extrêmement complexe. Nous aurons donc toujours besoin de développeurs, en particulier pour concevoir des systèmes à grande échelle », affirme Daniel. Il ajoute que des réglementations comme la LGPD rendent indispensable l'intervention de professionnels expérimentés pour les projets d'envergure : « N'importe qui peut concevoir un petit système local pour son entreprise, mais dès qu'il s'agit de lancer une startup et de bâtir un produit évolutif, on ne peut pas y arriver seul. L'aide d'un développeur ou d'un DevOps senior, qui maîtrise la sécurité et le backend, devient indispensable ».
Le risque du volume au détriment du contrôle qualité
Les gains de productivité permis par ces technologies ont également provoqué des dérives en entreprise, où la rapidité d'exécution débouche parfois sur des réalisations superficielles. Daniel évoque des cas d'entreprises ayant réduit ou redéployé leurs effectifs en misant sur une automatisation totale, avant de devoir faire marche arrière après avoir constaté une dégradation notable de la qualité.
« L'intelligence artificielle est un outil, un moyen, pas une fin en soi », rappelle Daniel. Il insiste sur le fait que la technologie ne saurait remplacer l'expertise stratégique de l'opérateur : « Quelqu'un peut générer un plan parfait avec Claude Code, ChatGPT ou Gemini. C'est parfait sur le papier, mais maîtrise-t-il vraiment le sujet ? Comprend-il les mécanismes sous-jacents ? A-t-il déjà validé concrètement ces stratégies par le passé ? ».
Déploiement par étapes et supervision humaine
Pour prévenir les erreurs lors des recrutements ou du développement interne, Daniel préconise de structurer les déploiements par étapes jalonnées. L'utilisation d'agents autonomes et de protocoles d'intégration comme MCP simplifie les flux, mais la validation technique humaine reste incontournable pour garantir la cohérence des solutions.
« Beaucoup ont tendance à surestimer l'intelligence artificielle en pensant qu'il s'agit d'une solution magique capable de résoudre tous les problèmes. Ce n'est pas ainsi que cela fonctionne », conclut Daniel. Il détaille la méthodologie recommandée aux entreprises : « L'IA n'est pas un nouvel Einstein ou un Léonard de Vinci capable de tout accomplir. Elle répond à des problématiques ciblées et, sur certains aspects, fournit un résultat inférieur à ce que produirait un être humain ».