En el último tiempo, muchas empresas están delegando la escritura de código a modelos de inteligencia artificial. Lo que comenzó como una ayuda auxiliar se va transformando en una forma predominante de generar software. Pero esta transición viene acompañada de advertencias sobre su seguridad y fiabilidad.
¿Por qué la IA está ganando terreno en programación?
-
Usar fragmentos de código existentes es habitual entre programadores. Ahora, la IA toma el protagonismo generando esos fragmentos (“vibe coding”) para acelerar el desarrollo.
-
Modelos de IA pueden producir versiones de código adaptables rápidamente, especialmente útiles cuando se quiere ir rápido sin escribir todo desde cero.
Los riesgos que emergen
-
Seguridad inherente en los datos de entrenamiento
Si la IA se entrena con código viejo, inseguro o mal documentado, puede replicar esas vulnerabilidades. -
Falta de contexto profundo
El modelo puede producir un código que “funcione”, pero sin considerar particularidades del proyecto, dependencias o requisitos específicos, lo cual puede introducir errores invisibles. -
Variabilidad en resultados
Si el mismo modelo genera versiones distintas para el mismo problema, se complica estandarizar pruebas, mantenimiento y revisiones. -
Opacidad y falta de responsabilidad
Con código generado por IA, muchas veces no hay registro claro de quién lo creó ni cómo fue testeado. Eso complica auditorías y rastreo de fallos.
Equilibrio necesario: humanos + IA
El artículo sugiere que el modelo humano sigue siendo esencial en el ciclo del desarrollo:
-
Verificación humana rigurosa del código generado.
-
Integración de pruebas de seguridad automatizadas complementadas con revisiones manuales.
-
Establecimiento de estándares internos sobre qué modelos o herramientas de IA están permitidas en cada proyecto.
-
Conciencia de que la IA es una ayuda, no un reemplazo total del programador.