Arquitectos de la
PROPIA RUINA DIGITAL

A lo largo de la historia, hemos visto la evolución de internet: un mundo que no se limita a áreas, y mucho menos hoy en día con el desarrollo de la IA. Para algunos presenta una amenaza; algunos dicen que ella misma acabará con nosotros, pero no es más peligrosa que el cambio climático. Lo que sí presenta un alto grado de peligrosidad es el círculo vicioso al que nos estamos sometiendo: alimentar modelos de IA con datos sintéticos genera defectos irreversibles y la pérdida paulatina de la realidad original (Shumailov et al., 2024). Con el mal uso de esta herramienta “supermágica”, estamos dejando de lado la capacidad de exigencia del razonamiento humano o, dicho en palabras básicas, las ganas de pensar y ser pioneros de los conocimientos y de las palabras.

Para comprender la dimensión de este problema, es necesario analizar el fenómeno conocido como model collapse o colapso del modelo. Este concepto no solo representa un fallo técnico, sino la degradación progresiva que sufre la inteligencia artificial al entrenarse con datos generados por otros algoritmos en lugar de articulos o material creado por humanos. Tal como confirmaron Gerstgrasser et al. (2024), nos encontramos ante un verdadero “bucle autofágico”: sustituir la información humana por contenido artificial crea un sistema que se devora a sí mismo y genera su propio declive.

Este ecosistema digital se está acercando lenta y silenciosamente a su límite matemático. La IA no es invulnerable a sí misma; de hecho, existe un estudio presentado en ICLR (2025) donde se dio a conocer que los modelos generativos tienen una resistencia engañosa: logran mantenerse estables absorbiendo hasta un 20 % de “contaminación sintética” (datos creados por otra IA). Sin embargo, al cruzar la línea del 30 %, el colapso avanza rápidamente, haciendo que su rendimiento se vea afectado en un 40 % cuando la mitad de su contenido es artificial. De acuerdo con las proyecciones de Epoch AI (2026), el suministro mundial de texto humano público y de alta calidad podría acabarse entre 2026 y 2032. No estamos ante una situación simple, porque es inminente la escasez de “humanidad” en la red. Estamos prontos a llegar al punto donde la máquina se quedará sin pensamiento original humano para pensar y crear, lo cual hará que ella misma se asfixie con sus propias creaciones.

El verdadero peligro de todo esto está en que “la máquina”, y no en su colapso final, sino en estos momentos, presenta una etapa en que el algoritmo comienza a descartar casos o información de casos aislados o atípicos para sobre-representar “la norma”. Este mecanismo matemático lo podemos traducir a lo sociopolítico, lo cual nos da un resultado muy negativo. Al recortar o descartar por su sistema los “casos raros” para optimizar sus resultados, la IA está ejecutando una limpieza social, por así decir. Se silencian las voces de menos volumen, se dejan de lado los contextos sociales, políticos o económicos de algunas realidades. Esto nos da a ver una paradoja aún mayor: la IA no se está volviendo más tonta al devorarse a sí misma, sino todo lo contrario, se está volviendo más poderosa. Se está consolidando en un plano multidimensional, en donde su sistema y el funcionamiento que le damos, está haciendo de ella quizás cosas no positivas; acabando con el debate y el poder del pensamiento humano.

De igual manera, el colapso es un destino sobre el cual podemos trabajar para cambiarlo. Tal como afirman los investigadores de la Universidad de Oxford (2024), la única vía para evitar la autofagia algorítmica y salvar a los modelos de su propio círculo vicioso es acumular y conservar los datos humanos originales. Pero más allá de la solución técnica, esto nos da a conocer la importancia de lo ético y lo sociopolítico, conceptos presentes en múltiples áreas. En un sistema inundado de contenido artificial, de producción rápida, la imperfección, el análisis crítico y la originalidad del cerebro humano son los recursos más valiosos para empezar el trabajo anticolapso.