¿ACASO DA IGUAL?

La Inteligencia Artificial frente a aquello que importa.

Publicada originalmente el 9 de febrero del 2026 en CTXT

En los últimos años, asistimos a lo que quizá sea la mayor campaña publicitaria de la historia: en cualquier foro profesional, en las noticias, en la publicidad de casi cualquier producto digital (o no) y en multitud de conversaciones cotidianas nos llegan ideas que tienen aspecto, peso y consistencia claramente comercial sobre que la IA podría ser la herramienta óptima y definitiva. Generalmente se refieren a los sistemas generadores de textos automáticos, a la llamada IA generativa, y nunca queda tan claro el objetivo final de tal optimización. Nos dicen que ha llegado el momento de automatizar todo lo automatizable y hacer de nuestras instituciones públicas y de las empresas privadas máquinas, por fin, afinadísimas. A través de esta publicidad más o menos solapada se nos relatan una y otra vez las enormes ventajas y potencialidades que la IA podría brindar a todo el mundo, en especial porque permitiría resolver de un plumazo los tediosos procedimientos administrativos que nos afectan. ¿Quiere esto decir que el uso de la IA en procesos burocráticos es ya un hecho inescapable? ¿Estamos las personas abocadas a integrarla en nuestro cotidiano, y a que nuestras relaciones descansen en sistemas automáticos de generación de frases? ¿Podemos abandonar ya en manos de esta tecnología cualquier papeleo que requiera cierto esfuerzo y dedicarnos por fin a quehaceres más apetecibles?

Es fácil convenir que hay muchas cosas que merecen ser automatizadas: evidentemente, hay intervenciones humanas que son, hoy en día, innecesarias y que deberíamos poder intercambiar (eso sí) por tiempo libre. No obstante, es importante distinguir entre dos formas de automatizar: una consiste en aplicar un procedimiento computacional determinista, un algoritmo predecible cuyo resultado, para las mismas entradas, es siempre el mismo. La otra tiene que ver con lo que se conoce como soft computing o computación blanda: heurísticas o algoritmos aproximativos que se conforman con soluciones “suficientemente” buenas, según algún criterio, por supuesto, no inocente. Esta es la categoría de la automatización con IA, especialmente si esta es generativa, y es lo que centra la atención de estos párrafos.

Se conoce como soft computing a los algoritmos aproximativos que se conforman con soluciones “suficientemente” buenas, según algún criterio no inocente

En todo caso, para responder a las preguntas del primer párrafo es conveniente antes que nada saber de quién fiarse: necesitamos que las respuestas sean rigurosas porque nos jugamos mucho y, lamentablemente, abundan los vendedores de crecepelo con grandes intereses comerciales (Narayanan & Kapoor, 2024). En segundo lugar, es necesario retirar las múltiples capas de celofán en las que viene envuelta la IA (Padilla, 2025), a fin de tratar de comprender si realmente el producto es lo que dice ser y, sobre todo, si es el producto que necesitamos.

La (pseudo)ciencia de la IA

En 1952, en lo que se considera el primer debate público sobre la IA, uno de los pioneros de la informática, Alan Turing, dijo a los micrófonos de la BBC: “Resulta tentador definir el pensamiento como algo compuesto por ‘aquellos procesos mentales que no entendemos’. Si esto es correcto, entonces hacer una máquina pensante es hacer una que haga cosas interesantes sin que entendamos realmente cómo las hace” (Turing & Braithwaite, 2004). En ese no entender cómo funciona la máquina pensante, la tentación de equiparar nuestra ignorancia con la que también tenemos acerca de los mecanismos del pensamiento de cualquier otra persona vuelve muy fácil el arriesgado camino de la antropomorfización: otorgar características humanas a la máquina, cuyo pensamiento sería tan incomprensible como el de cualquier persona.

La IA ha dejado de ser una disciplina académica enraizada en las matemáticas para convertirse en otra cosa: una marca comercial

Este proceso de antropomorfización, particularmente extendido con los sistemas generadores de frases mediante IA, construye realidad sobre la centenaria (y discutida) noción ilustrada de progreso, a la que se suman más de cien años de ciencia ficción, desde Karel Čapek en adelante, los cuales han atravesado todo nuestro imaginario de forma irremediable. Todo ello, junto a la mayor campaña publicitaria de la historia, contribuye a que la promesa de la IA se convierta en una idea irresistible: cómo no va a ser verdad, si ha sido profetizada antes de ser ingeniería. Así, desde hace unos años, se habla de la IA usando expresiones de carácter confesional en lugar de afirmaciones científicas: más que una moda, la IA se convierte en una fe (Allenwelt, 2025), y es frecuente encontrar todo tipo de decisiones que se basan en la forma condicional de una promesa aún por cumplir: “Podría revolucionar”. Además, en el cuerpo a cuerpo, si expresas dudas sobre el asunto, de alguna manera cuestionas la fe de la otra persona, lo cual es siempre un terreno resbaladizo– y ahí le vamos.

El resultado es que la IA ha dejado de ser un campo científico o una disciplina académica enraizada en las matemáticas para convertirse en otra cosa: muy probablemente poco más (y nada menos) que una marca comercial: IA™. Para colmo, en lo que respecta a la investigación científica que se hace en IA™, la presión por promover la fe algorítmica, junto al imperativo publica o perece, ha supuesto la expansión de vicios y deficiencias procedimentales que aquejan a un gran porcentaje de las publicaciones en este campo, como demuestran varios estudios y metaanálisis recientes (Bean et al., 2025, Raji et al., 2021, Guersenzvaig & Sánchez Monedero, 2023).

Lamentablemente, el problema va mucho más allá de una falta generalizada de rigor metodológico en la investigación y práctica de la IA™. Además de aplicar correctamente los métodos, se requiere una concepción de rigor más amplia y responsable: cuando se trabaja con IA™, y especialmente si el resultado afecta a personas, es imprescindible observar otros aspectos cruciales que tienen que ver con el rigor epistémico (qué conocimientos generales informan aquello en lo que trabajamos), el rigor normativo (cómo las normas, estándares o creencias, sean comunitarias, personales o disciplinarias, influencian nuestro trabajo), el rigor conceptual (cómo de claramente articulados están los constructos teóricos que se usan), el rigor documental (qué se documenta, cómo y por qué) y el rigor interpretativo (cómo de bien fundadas están nuestras inferencias a partir de las evidencias existentes) (Olteanu et al., 2025).

Expectativas, financiarización y burbuja

Y es que la principal amenaza al rigor en este contexto son las expectativas desmedidas. Y, desafortunadamente, son justamente las expectativas el principal combustible del motor que propulsa a la IA™: la financiarización, ese esquema económico extractivo en el que el endeudamiento sobrepasa con creces al capital propio. Así, se observa una sobrevaloración de las empresas principales de IA™ basada justamente en expectativas desmesuradas y en estrategias financieras complejas, que incluyen usos dudosos de la deuda como los acuerdos circulares. Según un portavoz de Morgan Stanley, “los proveedores están financiando a sus clientes y compartiendo ingresos; hay participación cruzada de capital y una concentración creciente” (Seitz, 2025). El boom de inversiones masivas en infraestructura de IA™ oculta fragilidades reales: muchas compañías operan a pérdidas y dependen de rondas constantes de financiación. Organismos internacionales como la OCDE, el FMI, el Banco Mundial o el BCE advierten de que, si la IA™ no cumple las expectativas, podría producirse una “corrección brusca del mercado”, arrastrando a otros sectores. La situación recuerda poderosamente a lo ocurrido con otras burbujas financieras no tan lejanas.

Es cada día más obvio que el gigante comercial IA™ puede tener los pies de barro

Al mismo tiempo, empieza a ser evidente que va a ser muy difícil traducir todas estas expectativas creadas en los beneficios esperados. Por ejemplo, acerca de los agentes IA™ (sistemas compuestos diseñados para abordar tareas complejas), que son la última gran promesa del mercado, un informe reciente de Gartner, la poderosa consultora tecnológica, predice que más del 40% de los proyectos comerciales de IA™ con agentes serán cancelados antes de 2027 por causa de costes fuera de control, su valor de negocio vago e impredecibles riesgos de seguridad. “Ahora mismo, la mayor parte de proyectos de IA™ con agentes son experimentos preliminares o pruebas de concepto que son producto de esta moda y a menudo están mal aplicados”, según Anushree Verma, director analista senior en Gartner (Gartner, 2025).

En todo caso, es cada día más obvio que el gigante comercial IA™ puede tener los pies de barro y debemos ser por lo tanto prudentes a la hora de fiar nuestro futuro a sus promesas, en especial en ámbitos de aplicación cuyo resultado importe y en aplicaciones cuyo resultado no dé igual.

¿Pero funciona?

Así, en tareas cuyo resultado importa, bien porque determine cómo personas distintas van a ser tratadas, por ejemplo, o porque tenga implicaciones para la salud, la educación o la justicia, o porque dependa de evidencias concretas que bajo ningún concepto pueden haber sido inventadas, conviene analizar si las promesas de la IA™, en especial las de los sistemas generadores de textos automáticos, pueden ser ciertas o no. Lo cierto es que el uso de sistemas generadores de textos puede exponernos a riesgos muy relevantes que abarcan lo técnico, lo ético, lo normativo y lo social, y que deben ser reconocidos a fin de preservar la integridad, la equidad y la legitimidad de los resultados.

Los sistemas generadores de texto carecen de comprensión semántica o situacional

La limitación más inmediata de los sistemas de IA™ generadores de texto es de índole técnica. Estos sistemas son entrenados con volúmenes masivos de textos y generan sus respuestas de forma probabilista, lo que quiere decir que sus respuestas no pueden ser deterministas ni estrictamente factuales. Tener certeza sobre su precisión y verificabilidad es, sencillamente, imposible. Producen a menudo afirmaciones que suenan plausibles pero son falsas (el término “alucinaciones” encierra la antropomorfización que mencionábamos arriba), lo cual, en contextos en que la precisión factual y la integridad documental sean necesarias, resulta evidentemente inaceptable. Una segunda limitación severa se deriva de la falta de comprensión contextual: por ejemplo, muchos procesos administrativos dependen muy directamente de conocimientos que son específicos del contexto, como son la historia clínica de una persona, el campo de estudio de un grupo de investigación o las particularidades normativas de una profesión. Los sistemas generadores de texto carecen de comprensión semántica o situacional, por lo que muy bien pueden generar textos que contengan malas interpretaciones de las sutilezas del lenguaje (por ejemplo: la diferencia entre que un objetivo “se cumple parcialmente” o “se cumple sustancialmente”). Estos problemas inherentes impiden confiar en esas frases producidas automáticamente. Además, su revisión en busca de errores supone un esfuerzo cognitivo comparativamente mayor y no siempre efectivo (DeVerna et al., 2024).

Otra dificultad técnica tiene que ver con la calidad y representatividad de los datos de entrenamiento, porque los sistemas de IA™ dependen de vastos conjuntos de datos bien estructurados, pero generalmente la información que se debe tener en cuenta, por ejemplo en procedimientos administrativos, suele encontrarse distribuida entre sistemas y estar en formatos inconsistentes, además de presentar mucha heterogeneidad derivada de cómo cada institución y persona los documenta y registra. Más aún: la opacidad de los modelos IA™ socava el principio de auditabilidad, que es central en ámbitos en los que el resultado importa. Por último, la protección de datos y la ciberseguridad también plantean serias limitaciones técnicas, ya que en muchos casos se usan datos sensibles sobre las personas involucradas. Alimentar modelos generadores de textos con estos datos (especialmente si se alojan en servidores externos, más aún fuera de Europa) introduce serios riesgos de accesos no autorizados y filtraciones de datos, también si se trata de datos anonimizados (Ohm, 2009).

Además de estas severas limitaciones técnicas, que de por sí impiden la fiabilidad mínima necesaria para el uso de estos sistemas en asuntos importantes, las limitaciones de índole social y ética son igualmente inexorables. Pese al celofán en que se nos presentan, los modelos generadores de texto no son herramientas neutras: como poco, heredan los sesgos presentes en sus datos de entrenamiento, lo que puede llevar a distorsiones sistemáticas en sus salidas. Por ejemplo, si un sistema ha sido entrenado mayormente con textos en castellano o inglés, puede reproducir sesgos culturales y lingüísticos que pongan en mayor desventaja a personas que se expresan en otras lenguas (lo cual es cierto también si el modelo está “alineado” con ciertos valores (Bai et al., 2025)).

Otra limitación importante tiene que ver con la opacidad algorítmica y la erosión de la responsabilidad que conlleva

Otra limitación importante tiene que ver con la opacidad algorítmica antes mencionada y la erosión de la responsabilidad que conlleva: dado que las decisiones de una institución o empresa tienen consecuencias reales, es imprescindible que la atribución de responsabilidades por errores o resultados no deseados sea clara e inequívoca. Pero, si el error lo produce una IA™, ¿tiene que ver con datos sesgados, con una mala interpretación de las evidencias, o con un mal uso de la herramienta? Resulta difícil establecer las fronteras de la responsabilidad humana y la algorítmica, lo cual, en muchos contextos, resulta enormemente problemático.

Por último, la principal protección normativa frente al uso de sistemas de IA™ es el Reglamento Europeo de IA, que clasifica como de alto riesgo muchos sistemas que tienen que ver con la educación, las ayudas sociales, el empleo, la administración de justicia, la gestión de migraciones y el control de fronteras, entre otros. Esta clasificación implica que esos sistemas deben cumplir una exhaustiva lista de requisitos encaminados a evitar los problemas relacionados con, por ejemplo, la gestión de riesgos, la gobernanza de datos, la transparencia, la supervisión humana o las garantías de precisión, solidez y ciberseguridad. Cumplir con estas provisiones implica que se adopten estrictas salvaguardas técnicas y procedimentales que, por su complejidad, pueden desbaratar la promesa original de mayor eficiencia.

Por si todo lo anterior fuera poco, es imprescindible enmarcar el uso de la tecnología en el delicado momento histórico en el que nos encontramos, su lugar de enunciación desde una sensibilidad abrumadoramente blanca y masculina y los impactos que aquella produce en el mundo. Ante una crisis climática inaudita con unas perspectivas más que sombrías, la justicia climática no puede ser un argumento secundario en ninguna discusión sobre la tecnología en general y, en particular, sobre una que es profundamente dependiente de ciertas empresas norteamericanas, así como de un uso desproporcionado de energía, de agua y de recursos minerales escasos y desigualmente repartidos (Valdivia, 2025).

Quedarse con el problema

No se trata ni de rechazar de plano todos sus avances ni de aceptar de forma acrítica sus planteamientos comerciales, sino de prestar atención

Pese a que hay sobrados indicios de que nos encontramos en una época en la que casi todo da igual (Sinker, 2025), la decencia exige identificar aquello que importa, y darle espacio, y tener cuidado y cuidar de ello. Por eso resulta llamativo y preocupante que una acumulación de evidencias como la que resumen los párrafos anteriores no sea suficiente para, al menos en contextos en que los resultados importan, convocar al rigor y mover a la prudencia en todo lo relativo a la aplicación de la IA™. Concretamente, en cuanto a los sistemas generadores de textos, resulta evidente que sus resultados son más costosos de lo que parecen y generalmente no son más que pobres simulaciones: con gran consumo de energía producen textos pasables, párrafos normalizados y normalizadores que hay que mirar entornando mucho los ojos para que transmitan algo provechoso. Encadenamientos plausibles de frases típicas que son, por definición, mediocres y que por ello excluyen lo raro, lo especial, lo invisible, aquello que suele ser más interesante (Nayler, 2023). Caros sucedáneos, en definitiva, que pueden ser al principio sorprendentes pero que, bien considerados, solo resultan aceptables en contextos en los que el resultado da más o menos igual.

Esto no quiere decir que no se trate de una tecnología interesante: es necesario explorar las contradicciones que nos plantea y habitar las dificultades que trae con ella. Si el resultado da igual o cuando un sucedáneo sea suficiente, la IA™ puede brindar una potencia nada despreciable. En cambio, cuanto más importan los procesos y cuanto más importa nuestra participación honesta en ellos, menos se avienen a ser mejorados a través de la generación automática de textos. En un inquietante negativo de la pregunta principal de este texto, lo que la IA™ desvela es que quizá hay procesos y tareas que pensábamos importantes pero que, en el fondo, no lo son tanto. Del mismo modo que, en la docencia, los trabajos de redacción son herramientas cada vez más cuestionadas para la evaluación del conocimiento adquirido, es muy probable que otros muchos procedimientos sean muy mejorables, o quizá finalmente prescindibles.

En cualquier caso, la IA™ nos convoca a pensar en lo que importa. No se trata ni de rechazar de plano todos sus avances ni de aceptar de forma acrítica sus planteamientos comerciales, sino de prestar atención, combinando siempre el conocimiento técnico con una mirada humanística, a cómo afecta a nuestras relaciones (también con la propia tecnología y con los procesos en que participamos) y a la construcción de futuros deseables. En paralelo, haremos bien en discernir cuándo las cosas no dan igual, y en extremar el rigor y la prudencia en esos casos.

———————-

(*) José L. Aznarte es catedrático en el Departamento de Inteligencia Artificial de la UNED, y actualmente está en comisión de servicios en ANECA. Una versión previa de este texto se publicó en el número 196 de Nueva Revista (monográfico “Universidad 2026”).

———————–

Referencias

Allenwelt, B. (2025). AGI is a cathedral: The Scaling Era as Revelation.

Bai, X., Wang, A., Sucholutsky, I., & Griffiths, T. L. (2025). Explicitly unbiased large language models still form biased associations. Proceedings of the National Academy of Sciences, 122(8).

Bean, A. M., Kearns, R. O., Romanou, A., Hafner, F. S., Mayne, H., Batzner, J., Foroutan, N., Schmitz, C., Korgul, K., Batra, H., Deb, O., Beharry, E., Emde, C., Foster, T., Gausen, A., Grandury, M., Han, S., Hofmann, V., Ibrahim, L., … Mahdi, A. (2025). Measuring what Matters: Construct Validity in Large Language Model Benchmarks. arXiv.

DeVerna, M. R., Yan, H. Y., Yang, K.-C., & Menczer, F. (2024). Fact-checking information from large language models can decrease headline discernment. Proceedings of the National Academy of Sciences, 121(50).

Gartner. (2025). Gartner predicts over 40 percent of agentic AI projects will be canceled by end of 2027.

Guersenzvaig, A., & Sánchez Monedero, J. (2023). Nadie escribiendo y nadie leyendo: los generadores de texto con inteligencia artificial y la ciencia que queremos. Mosaic.

Narayanan, A., & Kapoor, S. (2024). AI snake oil: what artificial intelligence can do, what it can’t, and how to tell the difference. Princeton University Press.

Nayler, R. (2023). AI and the Rise of Mediocrity. Time, Ideas.

Ohm, P. (2009). Broken promises of privacy: Responding to the surprising failure of anonymization. UCLA Law Review, 57.

Olteanu, A., Blodgett, S. L., Balayn, A., Wang, A., Diaz, F., Calmon, F. d. P., Mitchell, M., Ekstrand, M., Binns, R., & Barocas, S. (2025). Rigor in AI: Doing Rigorous AI Work Requires a Broader, Responsible AI-Informed Conception of Rigor. arXiv.

Padilla, M. (2025). Inteligencia artificial: jugar o romper la baraja. Traficantes de Sueños.

Raji, D., Denton, E., Bender, E. M., Hanna, A., & Paullada, A. (2021). AI and the Everything in the Whole Wide World Benchmark. Proceedings of the Neural Information Processing Systems Track on Datasets and Benchmarks, 1.

Seitz, P. (2025). Morgan Stanley raises caution flag on AI financing deals: Investor’s Business Daily.

Sinker, D. (2025). The Who Cares Era.

Turing, A., & Braithwaite, R. (2004). Can Automatic Calculating Machines Be Said To Think? (1952). In B. J. Copeland (Editor), The Essential Turing (pp. 487–506). Oxford University Press.

Valdivia, A. (2025). Data Ecofeminism. Proceedings of the 2025 ACM Conference on Fairness, Accountability, and Transparency.