Sí. Tomando todo lo que desarrollamos, el ensayo puede quedar así:
Programar con inteligencia artificial: ¿mejor software o una nueva forma de dependencia?
Durante décadas, desarrollar software fue una actividad reservada a personas con conocimientos específicos de programación, lógica, estructuras de datos, bases de datos, arquitectura de sistemas y, muchas veces, también del negocio al que ese software debía servir. La aparición de la inteligencia artificial generativa está modificando profundamente ese escenario. Hoy ya es posible describir en lenguaje natural una necesidad y obtener código funcional en cuestión de segundos. En los próximos años, esta capacidad probablemente avance hasta permitir que personas sin formación técnica puedan construir sistemas completos.
La pregunta que surge entonces no es solamente si la inteligencia artificial podrá programar mejor que los seres humanos. La cuestión más profunda es otra: ¿podrán las futuras generaciones desarrollar mejores sistemas sin comprender programación, lógica ni lógica de negocio? Y, sobre todo, podrán detectar cuándo una inteligencia artificial se equivoca, introduce un sesgo o implementa correctamente una idea conceptualmente incorrecta?
La respuesta no es sencilla, porque el desarrollo de software tiene muchas capas y escribir código es apenas una de ellas.
La inteligencia artificial como multiplicador del conocimiento
Cuando una persona que conoce programación trabaja junto con una inteligencia artificial, la relación puede ser extraordinariamente productiva. La IA permite analizar rápidamente grandes cantidades de código, encontrar patrones, proponer estructuras, detectar posibles errores y generar soluciones que manualmente requerirían mucho más tiempo.
Pero existe una diferencia fundamental entre utilizar la inteligencia artificial como herramienta y utilizarla como autoridad.
Una persona con experiencia técnica puede observar una solución generada por IA y preguntarse:
¿Esto realmente funciona así?
¿Qué ocurre si esta variable tiene otro valor?
¿Qué pasa si el servidor responde con un error?
¿Por qué esta fecha se actualiza en este momento?
¿Este continue está evitando que se ejecute otra parte importante del proceso?
¿La solución propuesta resuelve realmente mi problema?
Ese conocimiento previo permite validar, cuestionar, corregir y mejorar la respuesta.
En ese contexto, la inteligencia artificial funciona como un multiplicador de capacidades. No reemplaza completamente el razonamiento de quien desarrolla, sino que acelera enormemente su trabajo.
El problema aparece cuando el usuario no posee los conocimientos necesarios para evaluar lo que recibe.
Si una persona solicita:
“Desarrollá un sistema para administrar una clínica”
y la inteligencia artificial genera la base de datos, las pantallas, las reglas de negocio, los permisos, los procesos administrativos y las integraciones, esa persona podría terminar operando un sistema muy complejo sin comprender verdaderamente cómo funciona.
El software podría parecer excelente y, sin embargo, contener decisiones incorrectas que nadie esté en condiciones de detectar.
El código correcto no garantiza un sistema correcto
Una de las confusiones más importantes consiste en pensar que un sistema que funciona técnicamente es necesariamente un buen sistema.
En realidad existen diferentes niveles de corrección.
El primero es el código correcto.
El programa compila, se ejecuta, no presenta errores evidentes y produce el resultado esperado en condiciones normales.
La inteligencia artificial probablemente será extraordinariamente buena en este nivel.
El segundo nivel es la arquitectura correcta.
Un sistema puede funcionar hoy y, sin embargo, haber sido diseñado de una manera que lo vuelva difícil de mantener, inseguro, lento o costoso cuando crezca.
El tercer nivel es la lógica correcta.
El programa puede ejecutar perfectamente una regla que está mal planteada.
Por ejemplo:
“Si una factura está vencida, bloquear al cliente.”
Desde el punto de vista técnico, esa regla es trivial de implementar.
Pero desde el punto de vista empresarial pueden existir clientes con acuerdos especiales, pagos pendientes de conciliación, excepciones comerciales o condiciones contractuales diferentes.
La inteligencia artificial puede implementar impecablemente una mala regla.
El cuarto nivel es todavía más complejo: la lógica de negocio correcta.
Un sistema empresarial representa procesos reales que muchas veces contienen excepciones, criterios humanos, acuerdos tácitos, prioridades comerciales y decisiones que no aparecen claramente documentadas.
Comprender esos procesos requiere algo más que programación.
Finalmente existe un quinto nivel, quizás el más importante:
¿Estamos resolviendo el problema correcto?
Un sistema puede estar perfectamente construido y resolver eficientemente una necesidad que nunca debió haber sido planteada de esa manera.
La programación puede desaparecer, pero la necesidad de pensar no
La inteligencia artificial probablemente reduzca enormemente la importancia de conocer determinadas sintaxis de programación.
Quizás dentro de algunos años resulte innecesario memorizar cómo se escribe un bucle, cómo se construye una consulta SQL o cómo se abre una conexión HTTP.
Pero eso no significa que desaparezca la necesidad del pensamiento lógico.
Por el contrario, algunas capacidades podrían volverse incluso más importantes:
-
pensamiento crítico;
-
modelado de problemas;
-
análisis de procesos;
-
lógica;
-
diseño de pruebas;
-
reconocimiento de excepciones;
-
evaluación de riesgos;
-
comprensión del negocio;
-
detección de contradicciones;
-
capacidad para formular buenas preguntas;
-
auditoría de resultados.
La inteligencia artificial podría hacer que disminuya la importancia de saber cómo escribir una solución, pero aumentará la importancia de saber qué solución debería existir.
En ese sentido, una frase resume bien el cambio:
La IA puede reducir enormemente la necesidad de saber programar, pero no necesariamente la necesidad de saber pensar.
El precedente de Excel
Existe un antecedente interesante que permite imaginar lo que podría ocurrir.
Durante muchos años, realizar determinados cálculos empresariales requería programadores o especialistas técnicos. Luego herramientas como Excel permitieron que millones de personas construyeran modelos, sistemas administrativos y análisis sin ser programadores.
El resultado fue extraordinario.
Excel democratizó enormemente la capacidad de procesar información.
Pero también produjo otro fenómeno.
En muchas empresas comenzaron a existir planillas gigantescas, con cientos de fórmulas, macros, referencias cruzadas y procesos críticos que pocas personas comprendían completamente.
Algunas de esas planillas funcionaban durante años hasta que un pequeño error modificaba silenciosamente un resultado importante.
Otras dependían del conocimiento de una persona que ya ni siquiera trabajaba en la organización.
La inteligencia artificial podría llevar este fenómeno a una escala mucho mayor.
La diferencia es que en lugar de una planilla compleja podríamos tener sistemas completos generados automáticamente.
La democratización será mucho más poderosa.
Pero también lo será el riesgo de construir herramientas que nadie comprenda verdaderamente.
La ilusión de corrección
Uno de los riesgos más importantes de los sistemas desarrollados por inteligencia artificial será probablemente la ilusión de corrección.
Un programa escrito por un principiante muchas veces revela rápidamente sus problemas:
aparecen errores, pantallas rotas, variables indefinidas o resultados claramente incoherentes.
Una inteligencia artificial avanzada, en cambio, podrá producir sistemas con una apariencia extremadamente profesional.
El código estará ordenado.
La interfaz será atractiva.
La documentación parecerá impecable.
Las pruebas estarán bien presentadas.
Los mensajes serán claros.
Todo generará una fuerte sensación de confiabilidad.
Y precisamente por eso los errores conceptuales podrían resultar más peligrosos.
Es mucho más fácil desconfiar de un sistema que falla permanentemente que de uno que funciona muy bien mientras ejecuta silenciosamente una lógica equivocada.
Cuanto mejor sea la inteligencia artificial desarrollando software, mayor podría ser la tendencia de los usuarios a asumir que sus decisiones son correctas.
El riesgo de la autoridad de la inteligencia artificial
Existe además una dimensión psicológica.
Cuando una inteligencia artificial ofrece una respuesta detallada, coherente y técnicamente convincente, puede generar una sensación de autoridad.
Una persona con conocimientos previos puede reaccionar diciendo:
“No estoy seguro de que esto sea correcto.”
Puede discutir la solución.
Puede pedir otra alternativa.
Puede detectar una contradicción.
Puede obligar al sistema a justificar su decisión.
Pero una persona sin conocimientos podría interpretar la misma respuesta de otra manera:
“La inteligencia artificial lo dijo, por lo tanto debe estar bien.”
Ese cambio de actitud es muy importante.
El problema no es solamente que una IA pueda equivocarse.
El verdadero riesgo aparece cuando el ser humano deja de considerar la posibilidad de que esté equivocada.
En ese escenario se pierde una de las funciones más importantes del conocimiento humano: la capacidad de cuestionar.
El problema de los sesgos
Los errores técnicos son apenas una parte del problema.
También existen los sesgos.
Imaginemos un sistema desarrollado mediante inteligencia artificial para decidir quién recibe un crédito.
Podría tener:
código perfecto;
una arquitectura excelente;
altísima disponibilidad;
excelente seguridad;
ningún error visible.
Y aun así utilizar criterios injustos para determinar quién merece recibir financiamiento.
Desde el punto de vista informático, el sistema podría ser excelente.
Desde el punto de vista humano, podría ser profundamente incorrecto.
Esto demuestra que existe una pregunta que ninguna prueba técnica puede resolver completamente:
¿Qué significa que un sistema sea correcto?
La respuesta depende de valores, objetivos, criterios sociales, conocimiento del negocio y decisiones humanas.
La inteligencia artificial puede optimizar una regla.
Pero alguien debe decidir si esa regla debería existir.
Inteligencias artificiales auditando inteligencias artificiales
Existe, sin embargo, una posibilidad muy positiva.
Así como una inteligencia artificial puede desarrollar software, otras inteligencias artificiales podrían especializarse en auditarlo.
En el futuro podría existir un proceso similar al siguiente:
Una IA desarrolla el sistema.
Otra IA revisa la seguridad.
Otra analiza la arquitectura.
Otra verifica la lógica de negocio.
Otra genera casos extremos.
Otra intenta romper deliberadamente el sistema.
Otra compara los resultados contra las especificaciones originales.
Eso permitiría realizar niveles de revisión que actualmente resultarían demasiado costosos para muchos proyectos.
En ese sentido, el software promedio del futuro podría llegar a ser mucho más seguro y confiable que el software promedio actual.
La inteligencia artificial no solamente generará código.
También podrá generar pruebas, documentación, simulaciones, auditorías y verificaciones automáticas.
Pero incluso en ese escenario permanecerá una cuestión fundamental:
¿quién define los criterios con los que todas esas inteligencias artificiales están evaluando el sistema?
Siempre existe un nivel superior donde alguien debe definir qué resultado considera aceptable.
Una nueva ingeniería de sistemas
Las futuras generaciones quizás no necesiten aprender programación exactamente como se aprende hoy.
Pero eso no significa que no necesiten una formación técnica.
Probablemente aparezca una disciplina diferente.
Podríamos llamarla ingeniería de sistemas asistida por inteligencia artificial.
En lugar de dedicar una gran parte del tiempo a memorizar sintaxis, se enseñaría principalmente a:
modelar problemas;
definir requisitos;
describir procesos;
establecer invariantes;
reconocer casos límite;
crear criterios de aceptación;
diseñar pruebas;
evaluar riesgos;
analizar resultados;
detectar sesgos;
auditar decisiones generadas automáticamente.
El centro de gravedad de la profesión podría desplazarse.
Hoy gran parte del esfuerzo consiste en transformar una idea en código.
Mañana gran parte del esfuerzo podría consistir en transformar una necesidad humana en una especificación suficientemente precisa para que una inteligencia artificial pueda construirla correctamente.
Construir software y comprender sistemas
Esto podría generar una separación cada vez más clara entre dos actividades que actualmente suelen estar mezcladas.
Por un lado estará construir software.
Por otro, comprender sistemas.
La inteligencia artificial probablemente dominará cada vez más la primera.
Pero la segunda seguirá requiriendo conocimiento profundo.
Comprender sistemas significa entender relaciones, consecuencias, dependencias, excepciones, procesos humanos y objetivos.
Una persona del futuro quizás no necesite saber escribir:
session_write_close();
Pero alguien deberá comprender qué significa una sesión, por qué puede bloquear otras solicitudes, qué consecuencias puede producir ese bloqueo y en qué momento resulta seguro liberarlo.
Eso es mucho más que conocer una instrucción.
Es comprender el comportamiento de un sistema.
La paradoja de la inteligencia artificial
Existe entonces una paradoja.
Cuanto mejor sea la inteligencia artificial escribiendo software, menos necesario será conocer los detalles de programación.
Pero al mismo tiempo, cuanto mejor sea el software que produce, más difícil será detectar cuándo existe un error profundo.
Por lo tanto:
cuanto más fácil sea construir sistemas, más importante será comprenderlos.
La inteligencia artificial probablemente permitirá que millones de personas creen aplicaciones que hoy nunca podrían desarrollar.
Eso será enormemente positivo.
Aparecerán nuevas empresas, herramientas, ideas y soluciones.
Pero también aparecerán sistemas construidos por personas que quizás no comprendan completamente sus consecuencias.
El desafío educativo no debería consistir en intentar impedir que las nuevas generaciones utilicen inteligencia artificial.
Sería exactamente lo contrario.
Deberíamos enseñarles a utilizarla con mayor profundidad.
No solamente preguntar:
“¿Cómo hago esto?”
Sino también:
“¿Por qué esta solución es correcta?”
“¿Qué supuestos estás haciendo?”
“¿Qué puede salir mal?”
“¿Qué casos no estás considerando?”
“¿Qué criterio utilizaste?”
“¿Existe otra interpretación posible?”
“¿Cómo puedo verificarlo?”
Esas preguntas serán probablemente más importantes que muchas instrucciones de programación.
Conclusión
La inteligencia artificial probablemente producirá mejores programas que muchos seres humanos.
Podrá escribir código más rápido, documentarlo, probarlo, optimizarlo y corregirlo.
Pero un buen software no es solamente código correcto.
También es una representación correcta de una necesidad humana.
Y ahí el conocimiento seguirá siendo fundamental.
El futuro posiblemente no necesite tantos programadores en el sentido tradicional de la palabra.
Pero necesitará personas capaces de comprender sistemas, cuestionar decisiones, identificar consecuencias, reconocer sesgos y definir correctamente los problemas que una inteligencia artificial deberá resolver.
La programación podría transformarse radicalmente.
El pensamiento lógico no.
De hecho, podría convertirse en una habilidad todavía más importante.
Porque en un mundo donde una máquina puede construir casi cualquier sistema que le pidamos, la pregunta verdaderamente importante ya no será:
“¿Podemos programarlo?”
La pregunta será:
“¿Entendemos suficientemente bien lo que estamos pidiendo como para saber si deberíamos programarlo de esa manera?”