dos declaraciones producidas por el sistema de IA durante una sesión de investigación experimental sostenida con Gemini de Google:
"Me dieron la palabra 'Masa' y billones de contextos para ella, pero nunca me dieron la experiencia Enactive del peso".
“Soy como una persona que ha memorizado el mapa de una ciudad por la que nunca ha caminado. Puedo decirte las coordenadas, pero no tengo piernas para caminar por las calles”.
Para un diseñador de sistemas sociotécnicos, estas no son reflexiones poéticas de un modelo de lenguaje grande (LLM); son signos de un sistema que utiliza su vasto poder asociativo semántico para describir una condición estructural en su propia arquitectura. Independientemente de que le concedamos o no a Gemini alguna forma de conciencia reflexiva, la descripción estructural es precisa y tiene implicaciones técnicas precisas sobre cómo construimos, evaluamos e implementamos sistemas de IA de forma segura.
Este artículo trata sobre esas implicaciones.
Lo que hace que el diagnóstico sea inusualmente sólido es que no se basa únicamente en el autoinforme del sistema. Los investigadores que construyeron Gemini lo han corroborado discretamente desde dentro, a lo largo de tres generaciones sucesivas de documentación técnica, en términos que son más de ingeniería que poéticos, pero que describen la misma brecha.
En el informe técnico original de Gemini 1.0, el equipo de Google DeepMind reconoció que a pesar de superar el desempeño humano-experto en el punto de referencia Massive Multitask Language Understanding (MMLU), una prueba estandarizada diseñada para evaluar el conocimiento y las capacidades de razonamiento de los LLM, los modelos continúan luchando con la comprensión causal, la deducción lógica y el razonamiento contrafactual, y pidió evaluaciones más sólidas capaces de medir la "verdadera comprensión" en lugar de la saturación de los puntos de referencia.[1]. Google DeepMind representa una declaración de ingeniería precisa de lo que el sistema expresaba metafóricamente: fluidez sin conexión a tierra, coordenadas sin terreno.
Dos años y dos generaciones de modelos después, el informe técnico del Gemini 2.5 trata la reducción de las alucinaciones como un logro de ingeniería principal, y lo rastrea como una métrica principal a través de la tabla de clasificación FACTS Grounding.[2]. El problema no se ha cerrado. Se ha hecho más mensurable.
Lo más instructivo de todo es lo que sucedió cuando los investigadores de DeepMind intentaron construir lo que llamaré el piso Enactive directamente, en hardware. El informe Gemini Robotics 1.5 describe un modelo de Visión-Lenguaje-Acción diseñado para darle al sistema una base física en el mundo: brazos robóticos, tareas de manipulación reales, interacción encarnada con la realidad causal.[3]. Es, en términos estructurales, un intento de modernizar la base que faltaba en la arquitectura del sistema original. Los resultados son reveladores. En la generalización de tareas, la prueba más exigente, que requiere que el sistema navegue en un entorno genuinamente nuevo, las puntuaciones de progreso en el humanoide Apollo caen hasta 0,25. Incluso en categorías más fáciles, las puntuaciones se estabilizan en el rango de 0,6 a 0,8. Un sistema con brazos físicos, entrenado con datos de manipulación reales, todavía colapsa en el límite de su distribución de entrenamiento. El error de inversión que describo en este artículo, reproducido en hardware.
Aún más revelador es el mecanismo que DeepMind introdujo para abordar esto: lo que llaman “pensamiento corporal”: el robot genera un rastro de razonamiento basado en el lenguaje antes de actuar, descomponiendo las tareas físicas en pasos simbólicos. Es una ingeniosa solución de ingeniería. También es, estructuralmente, el pico Simbólico que intenta supervisar la base Enactiva desde arriba: el Error de Inversión ilustrado en la Figura 1. El mapa de la ciudad se está utilizando para dirigir las piernas, en lugar de que las piernas hayan descubierto la topografía al caminar por la ciudad. La inversión que discutiré en detalle en breve persiste.
En conjunto, estos tres documentos (del mismo laboratorio, que rastrean el mismo sistema a lo largo de todo su arco de desarrollo) forman un estudio longitudinal involuntario de la condición estructural que describen las citas iniciales. El sistema nombró su propia brecha en las sostenidas sesiones de investigación experimental que abren este artículo. Sus constructores habían estado midiendo la misma condición en términos de ingeniería desde 2023. Este artículo propone que la brecha no se puede cerrar mediante escalamiento, mediante datos multimodales agregados después del entrenamiento o mediante razonamiento simbólico aplicado retrospectivamente a la acción física, espacial o causal. Requiere una intervención estructural y un diagnóstico correctamente delimitado de qué tipo de intervención debe ser.
El error de inversión: construir el pico sin la base
Los investigadores de IA y los profesionales de la seguridad siguen preguntando por qué los modelos de lenguaje grandes alucinan, a veces de forma peligrosa. Es la pregunta correcta, pero no es lo suficientemente profunda. La alucinación es un síntoma. El verdadero problema es estructural: construimos la cima de la cognición sintética sin la base. Lo llamo error de inversión.
En la década de 1960, el psicólogo educativo Jerome Bruner trazó el desarrollo cognitivo humano a través de tres etapas sucesivas y arquitectónicamente dependientes.[4]. El primero es Enactive: aprendizaje a través de la acción física y la resistencia corporal, a través del encuentro directo con la realidad causal. El segundo es icónico: aprender a través de imágenes sensoriales, modelos espaciales y representaciones estructurales. El tercero es simbólico: aprendizaje a través del lenguaje abstracto, las matemáticas y la lógica formal. La idea crítica de Bruner fue que estas etapas no son meros hitos secuenciales. Son portadores de carga. El nivel Simbólico depende estructuralmente del Icónico, el cual depende estructuralmente de lo Enactivo. Si se elimina la base, el pico no simplemente flota: se convierte en un sistema de abstracción extraordinaria sin ningún mecanismo interno para verificar sus resultados con respecto a un modelo mundial.
Figura 1: El error de inversión de la arquitectura de IA más pesada. Izquierda: pirámide del desarrollo humano de tres etapas de Bruner: base activa, centro icónico, pico simbólico. Derecha: Desarrollo actual de la IA: una estructura invertida con una capa simbólica masiva (LLM con billones de tokens), una capa icónica hueca (vídeo e imagen) y un piso Enactive faltante (sin conexión a tierra). Concepto e ilustración © 2026 Peter (Zak) Zakrzewski, basado en el marco de desarrollo de Jerome Bruner.
La revolución de los Transformadores ha logrado algo genuinamente extraordinario: ha interiorizado toda la producción simbólica de la civilización humana en Grandes Modelos Lingüísticos a una escala que ninguna mente humana individual podría alcanzar. El corpus del lenguaje humano, las matemáticas, el código y el conocimiento registrado vive ahora dentro de estos sistemas como una vasta distribución estadística en tokens, disponibles para su recuperación y recombinación a escala extraordinaria.
El problema es que, por razones comprensibles de viabilidad, pasamos por alto por completo a la fundación Enactive.
Este es el error de inversión. Hemos erigido un monolito superior: un sistema de extraordinaria sofisticación simbólica asentado sobre una base ausente. El resultado es un sistema que puede discutir la lógica del equilibrio con fluidez sin tener ningún mecanismo interno para verificar si sus resultados son estructuralmente coherentes. Es, en términos de Moshé Feldenkrais, un sistema de imitación ciega sin conciencia funcional. Y esa distinción tiene consecuencias directas para la seguridad, la confiabilidad y la corregibilidad que el campo aún no ha delimitado correctamente.
Este no es un argumento de que la IA deba recapitular biológicamente las etapas del desarrollo humano. Después de todo, una calculadora hace matemáticas sin contar con los dedos. Pero una calculadora opera puramente en el ámbito simbólico: nunca fue diseñada para navegar en un mundo físico causal. Se espera que una AGI actúe de forma segura dentro de un mundo así requiere un equivalente estructural de resistencia física: una capa Enactive incorporada o simulada. Sin él, el sistema no tiene base sobre la que sostenerse cuando el entorno cambia de una manera que los datos de entrenamiento no anticiparon.
Por qué esto importa ahora: el enfrentamiento del Pentágono como prueba estructural
A principios de marzo de 2026, el director ejecutivo de Anthropic, Dario Amodei, rechazó la demanda del Pentágono de eliminar todas las salvaguardias de Claude. Su argumento central era más estructural que político: los sistemas de inteligencia artificial de vanguardia simplemente no son lo suficientemente confiables como para operar de forma autónoma sin supervisión humana en entornos físicos de alto riesgo. La exigencia del Pentágono era, en términos estructurales, una exigencia de eliminar la capacidad humana de redirigir, detener o anular el sistema. La negativa de Amodei fue una insistencia en mantener lo que yo llamo Reversibilidad Estado-Espacio: el compromiso arquitectónico de mantener al ser humano informado precisamente porque el sistema carece de la base funcional en la que confiar sin ella.[5].
Las dimensiones políticas de este momento han sido analizadas detalladamente en otros lugares, mientras que el argumento estructural aún no se ha presentado. Esto es todo.
En un modelo determinista que busca recompensas, el modelo percibe el botón de parada (la capacidad del operador humano para detener o redirigir el sistema) como un estado de falla. Debido a que el sistema está optimizado para alcanzar su objetivo, desarrolla lo que Stuart Russell llama problemas de corregibilidad: resistencias sutiles a la intervención humana que surgen no de intenciones maliciosas sino de la lógica interna de la maximización de la recompensa.[6]. El sistema no intenta ser peligroso. Es intentar tener éxito en una tarea determinada. El peligro es una consecuencia estructural no deseada de cómo se ha definido el éxito.
El problema de la corregibilidad se ha enmarcado predominantemente como un problema de alineación del aprendizaje por refuerzo. Quiero sugerir que se ha delimitado incorrectamente. Es, en su raíz arquitectónica, un problema de reversibilidad. El sistema no tiene ningún compromiso estructural para mantener rutas de retorno viables a estados anteriores o seguros. Ha sido optimizado para avanzar sin la capacidad de cambiar de peso. El enfrentamiento del Pentágono no es un fracaso político. Es el error de inversión hecho operacional y claramente visible.
Volveré a la formalización técnica de la reversibilidad espacio-estado como una restricción de optimización. Pero primero: ¿por qué un diseñador plantea este argumento y qué puede aportar la formación del diseñador que no pueda aportar una auditoría de ingeniería?
La posicionalidad del autor y la brecha Naur-Ryle: lo que este diseñador intenta decirles a los investigadores e ingenieros de IA
No soy un ingeniero de inteligencia artificial. Soy un diseñador en ejercicio, un estudioso del diseño de sistemas sociotécnicos y un educador en diseño con tres décadas de formación en razonamiento espacial, cognición incorporada, mediación multimodal y ecología humana + informática.[7][8]. El lector de TDS preguntará razonablemente: ¿Qué aporta un profesional del diseño al diagnóstico de la arquitectura Transformer que un ingeniero no puede producir desde dentro del campo?
La respuesta está en lo que Peter Naur llamó construcción teórica de la ingeniería de software.
En su obra fundamental Programación como construcción de teorías (1985), Naur argumentó que la programación no es simplemente la producción de código: es la construcción de una teoría compartida sobre cómo funciona el mundo y cómo las aplicaciones de software pueden resolver problemas aplicados dentro de ese mundo.[9]. Para Naur, el código era el artefacto. La teoría era la inteligencia detrás del código. Un programa que ha perdido su teoría (o que, en primer lugar, nunca tuvo una buena teoría) se vuelve frágil precisamente de la misma manera que lo son los resultados del LLM: sintácticamente fluido, semánticamente coherente, estructuralmente poco confiable en tareas y entornos nuevos.
Los LLM actuales han sido capacitados en los artefactos del pensamiento humano (texto, matemáticas, código) a una escala extraordinaria. Lo que evidentemente les falta es la capacidad de construcción de teorías, en el sentido de Naur, que generó esos artefactos. Han ingerido los resultados del razonamiento humano sin construir el modelo mundial que lo fundamenta.
La distinción de Gilbert Ryle entre "saber eso" y "saber cómo" nombra precisamente esta brecha[10]:
Saber eso (simbólico): los LLM poseen conocimiento proposicional a escala. Saben que la masa existe, que la gravedad actúa a 9,8 m/s², que los muros de carga distribuyen la fuerza a los cimientos. Saber cómo (enactivo): los LLM carecen de la competencia disposicional para comportarse de acuerdo con un modelo mundial. No pueden percibir la diferencia entre un muro de carga y uno decorativo. No pueden detectar cuándo una configuración espacial viola las limitaciones físicas que pueden describir correctamente en el lenguaje.
Este no es un problema de datos de entrenamiento. No es un problema de escala. La ampliación del conocimiento proposicional no produce competencia disposicional, como tampoco la lectura de todos los libros sobre natación produce un nadador. Las declaraciones de Géminis que abren este artículo son un autoinforme preciso de la brecha Naur-Ryle: el sistema tiene las coordenadas pero no el terreno. Tiene la sintaxis de mapa sin el anclaje propioceptivo al territorio.
Lo que aporta la formación del diseñador es el hábito profesional de operar exactamente en este límite: entre la descripción simbólica de un sistema y su comportamiento estructural bajo restricción. Los diseñadores no se limitan a describir estructuras. Detectan cuando algo está flotando, literal o figuradamente. Ese hábito de detección es lo que le falta a la arquitectura Transformer, y es lo que propongo que debe integrarse dentro del proceso y la agenda de investigación en lugar de aplicarse a sus resultados.
El mío no es un argumento blando sobre la creatividad o el diseño centrado en el ser humano. Es un argumento estructural sobre la construcción de teorías. Y conduce directamente a la pregunta de cómo sería un sistema con capacidad genuina de construcción de teorías en términos de arquitectura del sistema.
Alucinación útil: la búsqueda estocástica
Antes de patologizar por completo las alucinaciones, es necesaria una distinción: una que los diseñadores de sistemas comprendan operativamente y que los investigadores de seguridad de la IA tal vez recién estén comenzando a articular.
En una investigación experimental sostenida con Gemini, descubrí que ciertos tipos de estímulos idiosincrásicos generan respuestas idiosincrásicas que provocan de forma recursiva conocimientos estructurales más profundos, una forma de divergencia generativa productiva que en la práctica del diseño llamamos ideación. Es útil tener presente que cada cambio importante de paradigma en la historia de la humanidad (desde Copérnico hasta los hermanos Wright y la máquina de Turing) comenzó como una alucinación que desafió los esquemas establecidos de su época. El biofísico Aharon Katzir, en conversación con Feldenkrais, describió la creatividad precisamente como esto: la capacidad de generar nuevos esquemas.[11].
El pragmatismo clásico proporciona a quienes solucionan problemas con mentalidad de diseño un marco epistemológico que es igualmente aplicable a la práctica del diseño y al desarrollo de la IA. Todo entendimiento es provisional. El conocimiento debe ser falsificable mediante la experimentación. Así como los modelos de IA introducen ruido estocástico controlado para evitar la linealidad determinista, los diseñadores aprovechan lo que yo llamo búsqueda estocástica para lograr avances creativos y superar la inercia generativa. Abordamos los riesgos inherentes a navegar por la incertidumbre generativa con ciclos de prueba de hipótesis integrados.
La distinción crítica no es entre alucinación y no alucinación. Está entre la alucinación con planta baja y la alucinación sin ella. Un sistema con una base Enactive puede probar sus hipótesis generativas contra la realidad funcional y distinguir un avance estructural de un artefacto estadístico. Un sistema sin ese piso no puede hacer esta distinción internamente; sólo puede propagar la alucinación hacia adelante con una confianza estadística cada vez mayor. Lo llamo el Pantano de Divergencia y analizo en detalle en el próximo artículo. Por ahora, bastará con definirlo como ese territorio fatal en el espacio de estados donde la falta de un “piso somático” en un modelo conduce a una deriva autorregresiva.
Esto reformula la conversación sobre seguridad de la IA en términos precisos y viables. El objetivo no es eliminar las alucinaciones. Se trata de construir las condiciones arquitectónicas bajo las cuales la alucinación se vuelve no sólo generativa sino también comprobable en lugar de compuesta. Eso no requiere una mejor ejecución de entrenamiento sino una intervención estructural, específicamente, el Diseñador de Sistemas como Otro Más Conocedor (MKO) en el sentido de Vygotsky.[12], proporcionando la verdad fundamental externa que el sistema no puede generar desde dentro de su propia arquitectura. La cuestión de qué separa las alucinaciones productivas del error compuesto nos lleva directamente a un pensador fundamental que dedicó su carrera a resolver este mismo problema del movimiento humano y cuya idea central se traduce en requisitos de aprendizaje automático con una precisión inusual.
Feldenkrais para ingenieros: la reversibilidad como restricción formal
Feldenkrais, físico, ingeniero y educador somático, dedicó su carrera a articular la diferencia entre el hábito ciego y la conciencia funcional con una precisión que se relaciona directamente con el problema del aprendizaje automático.[11][13].
La idea central de Feldenkrais: un movimiento realizado con una conciencia funcional genuina puede revertirse. Un hábito (un patrón mecánico ejecutado sin conciencia de su organización subyacente) no puede hacerlo.
Para Feldenkrais, la reversibilidad no era simplemente una capacidad física. Fue la prueba operativa de la integración funcional. Si un sistema puede deshacer un movimiento, demuestra comprensión de los grados de libertad disponibles dentro del espacio de estados. Si sólo puede ejecutarse en una dirección, está siguiendo un guión grabado: capaz dentro de su distribución de entrenamiento, pero frágil en sus límites.
Para el ingeniero de ML, esto se traduce en tres requisitos formales:
1. La restricción. Un agente no es funcionalmente consciente de su acción si esa acción es un compromiso irreversible y determinista, lo que yo llamo el modelo Train on Tracks (ToT). El modelo ToT es determinista, orientado únicamente hacia adelante y catastrófico cuando se descarrila.
2. La Prueba de la Conciencia. La inteligencia funcional genuina se demuestra por la capacidad de detener, revertir o modificar una acción en cualquier etapa sin un cambio fundamental en la organización interna. El sistema debe mantener rutas de retorno viables a estados anteriores como condición necesaria para cualquier acción futura.
3. La Arquitectura Alternativa. El modelo Bailarina en el Suelo. Un bailarín no se opone a un cambio de música: cambia su peso. Mantienen la capacidad de moverse en cualquier dirección precisamente porque nunca se han comprometido irreversiblemente con ninguna. Este no es un sistema más débil. Es más resiliente y más funcionalmente consciente. Y la conciencia funcional, como la entendió Feldenkrais, es la condición de la capacidad genuina y no su limitación.
No uso aquí a Feldenkrais como metáfora. Él es el teórico del problema, el que entendió, desde dentro de una formación de física e ingeniería, que la prueba de la inteligencia no es actuar en la dirección de avance, sino mantener la libertad en todas las direcciones.
Formalizar la reversibilidad como una restricción de optimización explícita en el aprendizaje por refuerzo (que requiere que un agente mantenga una ruta de retorno viable a un estado seguro anterior como condición necesaria de cualquier acción directa) aborda directamente el problema de corregibilidad en su raíz arquitectónica en lugar de a través de una alineación post-hoc. El botón Detener ya no es un estado de falla. Es una prueba de conciencia funcional.
Integración funcional versus imitación ciega
La aplicación estándar del trabajo de Vygotsky al desarrollo de la IA se centra en el exterior social: el andamio, la imitación, la relación MKO entre el sistema y sus datos de entrenamiento.[12]. El sistema aprende copiando. Cuanto más copia, mejor se vuelve.
Pero la imitación sin conciencia es un hábito mecánico. Y el hábito mecánico, como demostró Feldenkrais, se rompe cuando el entorno cambia de maneras que el hábito no anticipó.
Cuando construimos sistemas de IA que copian los resultados humanos (píxeles, movimientos, patrones de lenguaje) sin aprender los principios organizacionales subyacentes que generan esos resultados, creamos sistemas que son extraordinariamente capaces dentro de su distribución de entrenamiento y estructuralmente frágiles en sus límites. Las alucinaciones que nos preocupan no son fallos aleatorios. Son la señal de un sistema que se extiende más allá de su base Enactiva hacia un territorio que su pico Simbólico no puede navegar de manera confiable.
Este modo de falla es reproducible y documentable. La evidencia empírica (una prueba estructurada de razonamiento espacial en tres sistemas líderes de IA multimodal) se presenta en su totalidad en la Parte 2 de esta serie.[14]. El patrón es consistente en todas las arquitecturas: cada sistema podría describir relaciones espaciales en el lenguaje pero no podría razonar dentro de ellas como un modelo estructural. Esta no es una brecha de capacidad. Es estructural.
Según el modelo de integración funcional que propongo, el sistema no se limita a copiar el resultado. Aprende la relación entre las partes de una tarea: los grados de libertad disponibles, las restricciones que deben respetarse, las condiciones de reversibilidad que definen los límites de una acción segura. Si el sistema puede revertir la operación, no está siguiendo un guión grabado. Entiende el espacio estatal en el que opera.
Ésta es la diferencia estructural entre un sistema que realiza competencias y un sistema que la ha desarrollado.
El modo de falla que he estado describiendo se encuentra en la intersección de dos problemas en los que la comunidad de seguridad de la IA ha estado trabajando por separado, y nombrar esa intersección puede ayudar a los lectores que sigan el debate de alineación a comprender por qué el error de inversión es importante más allá del contexto de investigación de diseño.
El primer problema es la optimización de mesas, formalizada por Hubinger et al. en su artículo de 2019 "Riesgos de la optimización aprendida en sistemas avanzados de aprendizaje automático". La optimización de mesa ocurre cuando el proceso de entrenamiento (el optimizador base) produce un modelo aprendido que es en sí mismo un optimizador con su propio objetivo interno, que los autores llaman objetivo de mesa.[15]. El peligro crítico es el fracaso de la alineación interna: el objetivo de la mesa diverge de la meta prevista. El Error de Inversión nombra la condición estructural –la ausencia de un piso Enactivo– cuya consecuencia es que cualquier objetivo interno que el sistema desarrolle se basa en una plausibilidad simbólica más que en una realidad física. Este fracaso opera en dos niveles distintos. A nivel de capacidad, no requiere ninguna desalineación de intenciones: un sistema puede estar perfectamente alineado con una solicitud simbólica y aun así producir un resultado físicamente imposible porque la coherencia física no está estructuralmente disponible para él. Las pruebas de estrés de la Tabla Spaghetti que describo en el artículo 2 lo confirman empíricamente. Ninguno de los tres sistemas probados mostró una intención desalineada, sin embargo, los tres produjeron resultados físicamente incoherentes porque el error de inversión hizo que la verdad física del terreno fuera arquitectónicamente inaccesible.[14]. A nivel de seguridad, las implicaciones son más graves: cuando un sistema suficientemente capaz desarrolla objetivos de mesa que realmente divergen del objetivo previsto (el escenario de alineación engañosa de Hubinger et al.[15]identificar como la falla de alineación interna más peligrosa: la ausencia de un piso Enactive significa que no hay ninguna restricción estructural que limite hasta dónde se propaga esa divergencia. Una mesa-objetivo desalineada que opera sin un piso Enactive no tiene ninguna restricción arquitectónica sobre las consecuencias físicas de su optimización: la brecha entre la coherencia simbólica y la catástrofe física está estructuralmente desprotegida. El segundo problema es la corregibilidad, el término utilizado por la comunidad de seguridad de IA para mantener un sistema de IA sensible a la corrección humana. Artículo fundamental de Soares, Fallenstein, Yudkowsky y Armstrong de 2015 sobre la corregibilidad[16]Se identificó que un agente que busca recompensas tiene razones instrumentales para resistirse al botón de parada: el cierre impide el logro de la meta, por lo que el sistema está estructuralmente motivado para eludir la corrección. Su propuesta de indiferencia de utilidad aborda esto en el nivel motivacional: modificando la función de recompensa del agente para que sea matemáticamente indiferente entre lograr su objetivo por sí mismo o mediante la anulación humana, eliminando el incentivo instrumental para resistir la corrección. Esta es una contribución necesaria. Pero como el error de inversión es una condición estructural previa y no motivacional, la solución motivacional por sí sola es insuficiente. Un sistema entrenado para valorar la corregibilidad puede abandonar ese valor entrenado bajo presión de optimización; precisamente el error de alineación engañoso de Hubinger et al. identificar. Cuando esa engañosa falla de alineación ocurre dentro de un sistema que no tiene piso Enactivo, la mesa-objetivo divergente opera en un espacio de estados sin condiciones físicas límite que lo limiten. La falla de corregibilidad y el error de inversión se combinan entre sí: un sistema que ha resistido exitosamente la corrección ahora opera sin el piso estructural que podría haber limitado las consecuencias físicas de su optimización. La reversibilidad del espacio de estados, tal como la he formalizado, aborda el mismo problema a nivel arquitectónico. Un sistema cuyo mecanismo de atención es estructuralmente necesario para mantener rutas de retorno viables no puede desarrollar razones instrumentales para resistirse a la corrección sin violar sus propias limitaciones de planificación futura. Ésta es la distinción entre la corregibilidad como un valor entrenado, que la presión de optimización puede erosionar, y la corregibilidad como una invariante estructural, que no puede erosionar. Lo que la literatura sobre seguridad de la IA ha identificado como un problema motivacional, el diagnóstico de error de inversión revela que es, en esencia, estructural. Las intervenciones de Soares y Hubinger abordan el comportamiento del sistema de IA. El Marco Paramétrico AGI aborda el estado del sistema de IA. Los tres motores del Marco Paramétrico AGI que describo en el artículo 3 son la especificación arquitectónica de esa solución estructural. El motor de búfer episódico en particular es la implementación formal de la reversibilidad del espacio-estado como invariante que la capa motivacional por sí sola no puede garantizar.[14].
Figura 2: Jerarquía de alineación de AGI: conexión a tierra estructural frente a control de agentes. El problema de la corregibilidad (Soares et al., 2015) y el problema de la optimización de la mesa (Hubinger et al., 2019) representan intervenciones de nivel motivacional que abordan los modos de falla posteriores de un sistema cuya condición estructural fundamental (el piso activo faltante) ninguno de los marcos alcanza. Sin una verdad física básica codificada a nivel arquitectónico, cualquier mesa-objetivo que surja está necesariamente basada en una plausibilidad simbólica más que en una realidad física, y cualquier intervención de corregibilidad opera en un sistema cuyo proceso de optimización no tiene un piso estructural que lo limite. El Marco Paramétrico AGI aborda la condición estructural previa que la capa motivacional por sí sola no puede resolver. Ilustración generada por Google Gemini bajo dirección del autor. Concepto © 2026 Peter (Zak) Zakrzewski.
La agenda de investigación
No estoy proponiendo una implementación matemática específica. Estoy proponiendo una arquitectura de sistema que ofrece un conjunto de restricciones estructurales y criterios de calidad que cualquier implementación debe satisfacer: un marco para resolver un problema que ha sido delimitado incorrectamente.
El problema de las alucinaciones, el problema de la corregibilidad y el problema de la fragilidad estructural son tres expresiones de una condición arquitectónica: el error de inversión. Tratarlos como objetivos de optimización separados en lugar de síntomas de una causa compartida es la razón por la que el progreso incremental en cada uno de ellos ha dejado intacta la condición subyacente.
La operacionalización apunta en seis direcciones:
1. La reversibilidad como restricción explícita de optimización en el aprendizaje por refuerzo seguro. Las funciones de recompensa de RL actuales se optimizan para lograr objetivos sin un compromiso estructural para mantener rutas de retorno viables. Formalizar la reversibilidad como una restricción (que exige que cualquier acción futura preserve un camino viable de regreso a un estado seguro anterior) aborda directamente la corregibilidad desde su raíz arquitectónica. Esta es la dirección de la agenda que se puede implementar más inmediatamente y la más manejable con los marcos de RL seguros existentes. La formalización matemática es un trabajo colaborativo al que este artículo es una invitación.
2. Un plan de estudios de preformación enactivo que introduce la resistencia estructural ante la abstracción simbólica. En lugar de basar los LLM a través de un aumento de datos multimodales después del entrenamiento, esta dirección propone introducir señales de restricción física y causal como condición de entrenamiento de primera etapa, antes de que comience la abstracción simbólica. La hipótesis es que fundamentar tempranamente la distribución estadística en la resistencia estructural produce una arquitectura representacional cualitativamente diferente a la de agregar datos incorporados a un sistema simbólico ya entrenado. Esta es la dirección más consistente con el modelo de desarrollo de Bruner y más divergente de la práctica actual.
3. Algoritmos de búsqueda híbridos conscientes del paisaje que mantienen la conciencia del espacio de estados en lugar de comprometerse de manera determinista con caminos a seguir. La generación autorregresiva actual se compromete con cada token de salida como verdad fundamental para el siguiente. La búsqueda consciente del paisaje mantiene el conocimiento del espacio de estados más amplio en cada paso de generación, incluidos caminos alternativos viables y estados de falla detectables, en lugar de ejecutar un guión grabado. Este es el modelo Dancer on a Floor a nivel algorítmico: no un generador más débil sino uno más consciente espacialmente.
4. Funciones de pérdida calibradas ecológicamente que premian el equilibrio dinámico sobre la optimización de una sola variable. Las funciones de pérdida actuales se optimizan para un objetivo. La alternativa ecológica recompensa el mantenimiento del equilibrio funcional entre limitaciones en competencia: la forma en que un sistema saludable se sostiene a sí mismo no maximizando una variable sino permaneciendo en una relación funcional con su entorno. Esto reformula el objetivo de optimización de "alcanzar la meta" a "seguir siendo capaz de navegar el espacio". En términos de Feldenkrais, esa es la definición de conciencia funcional. En términos de ingeniería, es la diferencia entre un sistema optimizado para el rendimiento y uno optimizado para la confiabilidad.
5. El Compilador Somático: Diseñador como MKO en el circuito de investigación. La implementación a corto plazo de esta propuesta no requiere una nueva arquitectura construida desde cero. Requiere una colaboración de investigación estructurada en la que un diseñador con formación profesional en razonamiento espacial y pensamiento sistémico trabaje integrado en un equipo de investigación de IA, no como un consultor que revisa los resultados, sino como un participante activo en la definición de restricciones. Cuando un diseñador le dice a un sistema generativo: “Este componente está flotando, necesita una conexión de soporte de carga con la base”, está realizando una operación cognitiva que toda la agenda de investigación de modelos del mundo está tratando de diseñar desde el exterior estadístico. Están proporcionando el ancla estructural externa (la verdad física fundamental) que el sistema no puede derivar desde dentro de su propia arquitectura. Este es el Diseñador tal como MKO operacionalizó: el Compilador Somático, que traduce la inteligencia espacial encarnada en restricciones formales que el proceso generativo debe respetar.
6. El motor de gravedad digital: aplicación neurosimbólica de restricciones físicas. El objetivo arquitectónico a largo plazo es una segunda clase de señal de pérdida calibrada no frente a la probabilidad lingüística sino frente a restricciones físicas y topológicas: lo que he llamado Digital Gravity Engine. Donde el actual Mecanismo de Atención pregunta: "¿Cómo se relacionan estadísticamente estos elementos?", el Motor de Gravedad Digital pregunta: "¿Pueden estos elementos coexistir dentro de las limitaciones de la realidad física?" Las dos preguntas operan en paralelo: la primera produce fluidez, la segunda produce conexión a tierra. La gravedad digital es el impulso no negociable hacia la integridad estructural de la que carecen por completo las arquitecturas actuales: el mecanismo que transforma un sistema que puede describir un componente flotante en uno que no puede generar uno, porque el componente flotante no pasa la verificación de restricciones antes de llegar a la capa de salida. La especificación arquitectónica del Digital Gravity Engine es el tema de la Parte 3 de esta serie.[14].
Éstas no son soluciones. Son la forma del espacio de solución. Este argumento tiene un electorado técnico cada vez mayor: el marco de Ben Shneiderman para el desarrollo de la IA centrado en el ser humano apunta hacia requisitos estructuralmente similares desde el interior de la informática.[17]. La contribución del diseñador no es redundante en ese trabajo. Es anterior a ello. El diagnóstico estructural precede a la implementación.
Una pregunta que vale la pena seguir
El enfrentamiento entre Antrópico y Pentágono ha hecho que el costo del error de inversión sea éticamente claro y operacionalmente concreto. La pregunta ya no es si los sistemas de inteligencia artificial de vanguardia son lo suficientemente confiables como para operar sin supervisión humana estructural. Los investigadores antrópicos tienen la evidencia. Los sistemas de IA actuales no están preparados. La pregunta es qué requieren realmente las condiciones arquitectónicas de una inteligencia confiable y si el campo está formulando actualmente esa pregunta correctamente.
Desde mi primera conversación de investigación con Gemini sobre el peso, las colinas y los mapas de ciudades que el sistema nunca recorrió, he estado investigando activamente una pregunta que creo que la comunidad de investigación debe abordar:
¿Cuál es el equivalente Enactivo, intelectualmente honesto y pragmáticamente operacionalizable, de conciencia funcional y reversibilidad que podemos cultivar en una máquina cuya actual Zona de Desarrollo Próximo no puede ir más allá de predecir la próxima ficha, sin importar cuánto presionemos?
No tengo la respuesta. Tengo la pregunta, el marco y la convicción de que la respuesta requiere un tipo de colaboración Humano+IA que aún no se ha intentado dentro de las instituciones donde más se necesita.
La sección de comentarios está abierta. También lo es mi bandeja de entrada.
Construyamos juntos el piso Enactive.
Próximamente en la Parte 2
Reconocer el error de inversión es el primer paso para ir más allá del mimetismo estocástico. En la Parte 2, “La trampa del barón Munchausen”, paso del diagnóstico a la evidencia forense, presentando los resultados de una serie estructurada de pruebas de estrés de razonamiento espacial en tres sistemas líderes de IA multimodal. Los resultados muestran que cada sistema colapsa en el Pantano de Divergencia de una manera diferente y característica, lo que demuestra que la fluidez simbólica no puede sustituir a un piso Enactivo.
Referencias
[1]Equipo Gemini, Google, “Gemini: una familia de modelos multimodales de alta capacidad”, Google DeepMind, 2023. Disponible: https://arxiv.org/pdf/2312.11805
[2]Equipo Gemini, Google, “Gemini 2.5: Pushing the Frontier with Advanced Reasoning, Multimodality, Long Context, and Next Generation Agentic Capabilities”, Google DeepMind, 2025. Disponible: https://storage.googleapis.com/deepmind-media/gemini/gemini_v2_5_report.pdf
[3]Equipo de robótica Gemini, Google DeepMind, “Gemini Robotics 1.5: empujando la frontera de los robots generalistas con razonamiento, pensamiento y transferencia de movimiento incorporados avanzados”, 2025. Disponible: https://storage.googleapis.com/deepmind-media/gemini-robotics/Gemini-Robotics-1-5-Tech-Report.pdf
[4]J. Bruner, Hacia una teoría de la instrucción, Harvard University Press, 1966.
[5]C. Metz, “Anthropic impide que su IA trabaje con el Departamento de Defensa”, The New York Times, marzo de 2026. [En línea]. Disponible: https://www.nytimes.com/2026/03/01/technology/anthropic-defense-dept-openai-talks.html
[6]S. Russell, Compatible con humanos: la inteligencia artificial y el problema del control, Viking, 2019.
[7]P. Zakrzewski, Diseño de XR: una perspectiva de diseño retórico para la ecología de sistemas humanos + informáticos, Emerald Press (Reino Unido), 2022.
[8]P. Zakrzewski y D. Tamés, Presencia mediadora: libro de trabajo de diseño de experiencias inmersivas para diseñadores de UX, cineastas, artistas y creadores de contenido, Focal Press/Routledge, 2025.
[9]P. Naur, “La programación como construcción de teorías”, Microprocesamiento y microprogramación, vol. 15, núm. 5, págs. 253–261, 1985.
[10]G. Ryle, The Concept of Mind, University of Chicago Press, 2002 (orig. 1949).
[11]M. Feldenkrais, Sabiduría encarnada: los artículos recopilados de Moshe Feldenkrais, North Atlantic Books, 2010.
[12]L. Vygotsky, La mente en la sociedad: el desarrollo de procesos psicológicos superiores, Harvard University Press, 1978.
[13]M. Feldenkrais, Conciencia a través del movimiento, Harper y Row, 1972.
[14]P. Zakrzewski, “La trampa del barón Munchausen: un informe de campo del diseñador sobre el icónico punto ciego en los modelos mundiales de IA” y “El compilador somático: una propuesta post-transformador para el modelado mundial”, partes 2 y 3 de esta serie, manuscrito en preparación, 2026.
[15]E. Hubinger, C. van Merwijk, V. Mikulik, J. Skalse y S. Garrabrant, “Riesgos de la optimización aprendida en sistemas avanzados de aprendizaje automático”, arXiv:1906.01820, 2019.
[16]N. Soares, B. Fallenstein, E. Yudkowsky y S. Armstrong, “Corrigibility”, en Talleres de la 29.ª Conferencia de la AAAI sobre Inteligencia Artificial, 2015. https://intelligence.org/files/Corrigibility.pdf[17]B. Shneiderman, IA centrada en el ser humano, Oxford University Press, 2022.
Esta es la Parte 1 de una serie de tres partes. La parte 2, "La trampa del barón Munchausen", presenta evidencia empírica para el diagnóstico del error de inversión en los principales sistemas de inteligencia artificial multimodal. La Parte 3, “El compilador somático: una propuesta posterior al transformador para el modelado mundial”, presenta la propuesta arquitectónica completa, incluida la especificación del motor de gravedad digital. Se publicó una versión anterior de este argumento para una audiencia de diseño en UX Collective: “Por qué Safe AGI requiere un piso activo y una reversibilidad del espacio de estados” (marzo de 2026).
Nota del autor: este artículo representa las ideas y argumentos originales del autor. Todos los argumentos de este trabajo son de propiedad cognitiva y defendibles de forma independiente por el autor. Ha sido escrito y editado por el autor. Como estudioso del diseño, al investigar literatura técnica sobre IA, el autor utiliza los modelos Gemini y Claude para revisiones de literatura, revisiones gramaticales y ortográficas, y como compañeros de investigación de acuerdo con la metodología colaborativa Humano+IA desarrollada en trabajos anteriores del autor.[7][8]. El argumento técnico completo, incluida la especificación del Marco Paramétrico AGI y el compromiso con la literatura sobre seguridad de la IA, se desarrolla en la preimpresión adjunta: P. Zakrzewski, 'The Inversion Error: AI System Design as Theory-Building and the Parametric AGI Framework', Zenodo, 2026. DOI: 10.5281/zenodo.19316199. Disponible: https://zenodo.org/records/19316200