Democratización de la IA exige control de calidad y seguridad
Pedro Daniel discute cómo herramientas accesibles reducen costos de desarrollo, pero exigen base técnica y revisión humana.
Pedro Daniel analiza la democratización de la inteligencia artificial y el impacto de las herramientas autónomas en la creación de sistemas. El debate aborda la reducción de costos para pequeñas empresas, los riesgos de ciberseguridad y la necesidad de supervisión humana ante la pérdida de calidad en las entregas.
Pedro Daniel, creador de Escola de IA, habló, en conversación con Bruno Gimenes en Marketing - The Podcast, sobre el impacto de la popularización de la inteligencia artificial en el desarrollo de software y en las operaciones de empresas de diversos tamaños. Daniel evalúa que el acceso a modelos avanzados redujo las barreras de entrada para pequeñas y medianas empresas, pero señala que el uso indiscriminado sin gobernanza técnica ha provocado brechas de seguridad y pérdida de calidad en las entregas.
En el video anterior, Daniel y Bruno exploran los impactos operativos de estas herramientas y comparten ejemplos prácticos de aplicaciones en el día a día corporativo.
Aceso a herramientas y reducción de costos técnicos
La evolución de las plataformas de inteligencia artificial permitió que pequeños negocios pasaran a ejecutar proyectos que antes dependían de presupuestos elevados y equipos robustos de ingeniería. Daniel recuerda que iniciativas pioneras, como la adopción de IA en iFood en 2016, exigían inversiones de millones de dólares. Actualmente, suscripciones de 20 dólares mensuales en servicios como ChatGPT, Claude o Gemini ofrecen capacidad para unificar datos y automatizar procesos con rapidez.
"La inteligencia artificial hoy democratizó muchas cosas. Entonces, antes, para tener un área de tecnología en la empresa, eran millones de dólares de inversión en tecnología", explica Daniel. Observa que sistemas que antes demandaban cientos de miles de dólares ahora pueden estructurarse en pocos días: "La inteligencia artificial democratizó algo que hoy vale más que el dinero, vale más que el petróleo, ¿y qué es? Los datos. Hoy logras unificar los datos de tu empresa en un solo sistema".
Vulnerabilidades de seguridad y el papel del desarrollador
A pesar de la facilidad para generar código mediante agentes como Claude Code o Codex, la publicación de sistemas funcionales sin fundamentos de infraestructura y protección expone datos confidenciales. Daniel cita el caso del influencer Abraham, quien creó un sistema propio para sus alumnos utilizando asistentes de código y publicó el logro en redes sociales. La ausencia de capas de seguridad permitió la vulneración del entorno y la filtración de información de los usuarios.
"Hoy es muy fácil hacer un sistema, pero es muy difícil protegerlo. Por lo tanto, siempre vamos a necesitar desarrolladores, principalmente cuando hablamos de desarrollo de sistemas a escala", afirma Daniel. Complementa que normas como la LGPD hacen indispensable la participación de profesionales sénior para proyectos que requieren escala: "Una persona común puede hacer un sistema para su empresa, un sistema local allí, pero cuando hablamos de alguien que quiere crear una startup, que quiere hacer un producto, un sistema escalable, no lo va a lograr solo. Va a necesitar la ayuda de un desarrollador, de un devops sénior, que entienda la parte de seguridad y la parte del backend".
El riesgo de la entrega en volumen sin control de calidad
La productividad acelerada por las herramientas también generó distorsiones en el entorno corporativo, donde el aumento en la velocidad de producción a veces resulta en trabajos superficiales. Daniel relata situaciones en las que empresas redujeron o reubicaron personal apostando por la automatización integral, y tuvieron que retroceder tras constatar el deterioro de los resultados entregados.
"La inteligencia artificial es una herramienta, es un medio, no es un fin", resalta Daniel. Añade que la tecnología no sustituye la experiencia estratégica de quien opera la herramienta: "Alguien hace una planificación hermosa allí con Claude Code, ChatGPT o Gemini. Perfecto, la planificación está impecable. Pero, ¿realmente entiende de lo que está hablando? ¿Sabe exactamente cómo funciona? Las estrategias que está proponiendo, ¿ya las validó alguna vez?".
Implementación por hitos y curaduría humana
Para evitar errores en la contratación o en el desarrollo interno, Daniel recomienda que las implementaciones se dividan en etapas claras. El uso de agentes autónomos y protocolos de integración como MCP simplifica los flujos, pero la revisión técnica humana sigue siendo obligatoria para garantizar la consistencia.
"La gente sobreestima la inteligencia artificial. Piensan que la inteligencia artificial es mágica y que va a resolver todos sus problemas. Amigo, no es así como funciona", puntualiza Daniel. Detalla la orientación brindada a los proyectos corporativos: "No es un super Einstein o un Leonardo da Vinci que va a lograr hacerlo todo y resolver todos los problemas. Resuelve problemas puntuales y hay ciertas cosas en las que, en mi opinión, tiene una entrega peor que la de un ser humano".