Todo Sistema de Control Necesita Una Historia Moral

Los bárbaros no están esperando más allá de las fronteras; ya llevan un tiempo considerable gobernándonos. Y nuestra falta de conciencia de esto es parte de lo que nos aflige.

— Alasdair MacIntyre, After Virtue, 1981

---

Noté el patrón en abril de 2026, cuando la Comisión Europea anunció que su aplicación de verificación de edad estaba lista. Ursula von der Leyen, presidenta de la Comisión, la presentó como el siguiente paso para servicios en línea más seguros y la comparó con los pasaportes COVID. Un escaneo bastaría para acceder a los servicios digitales en todo el bloque.¹ El lenguaje era tranquilo. Seguridad. Verificación. Protección. Era el mismo registro que un anuncio de salud pública. No estaba pidiendo a nadie que aceptara un poder nuevo. Estaba anunciando que el poder ya estaba ahí, y que la gente decente por supuesto consentiría.

Por la misma época, la policía británica continuaba deteniendo a personas en todo el Reino Unido por comentarios ofensivos en redes sociales. La tasa era de aproximadamente treinta arrestos al día bajo la sección 127 de la Communications Act y la sección 1 de la Malicious Communications Act.² El encuadre en cada caso era familiar: se había violado una ley de discurso; los oficiales la estaban aplicando; el sistema estaba funcionando como fue diseñado. El lenguaje alrededor de la ley era tranquilo. Seguridad pública. Protección frente al discurso dañino. Otro país, otro mecanismo, el mismo registro.

Una vez que lo vi en un anuncio, lo vi en otros. El control rara vez llega como control. Llega como protección, como responsabilidad, como la única cosa razonable que haría una sociedad decente. Viste el lenguaje de la virtud con tanta naturalidad que cuestionarlo se siente como cuestionar la bondad misma. Ese es el mecanismo.

El patrón es más viejo que cualquier institución viva. Pero la versión que corre ahora es distinta en maneras que importan.

La arquitectura vieja

Durante la mayor parte de la historia occidental, el marco moral que justificaba el control social era religioso. La iglesia proveía el vocabulario del bien y el mal, los mecanismos de rendición de cuentas — confesión, penitencia, juicio — y la fundamentación metafísica que hacía que todo el sistema se sintiera inevitable en lugar de construido.

Esta no es una observación antirreligiosa. Es una observación estructural. Cuando una sola institución sostiene la autoridad para definir el pecado, sostiene la autoridad para definir los límites del pensamiento aceptable. Lo que cuenta como transgresión determina lo que cuenta como obediencia. Y la obediencia, una vez moralizada, deja de parecer control. Parece virtud.

La iglesia medieval no enmarcaba su autoridad como poder. La enmarcaba como cuidado por tu alma. El inquisidor no te estaba controlando. Te estaba salvando. Ese enmarcado no era incidental al sistema. Era el sistema. La historia moral hacía invisible la arquitectura de control para la gente que vivía dentro de ella.

El vacío

Durante el último siglo, la religión se retiró gradualmente del centro de la vida pública en la mayoría de las democracias occidentales. Menos personas asisten a los servicios. Menos aceptan afirmaciones teológicas como base para la ley. El secularismo ganó — en el sentido de que la vieja autoridad moral perdió su agarre.

Pero la necesidad que servía no desapareció.

Los humanos son animales sociales con un apetito profundo por los marcos morales. Queremos saber cuáles son las reglas. Queremos saber quiénes son los buenos y quiénes son los malos. Queremos un vocabulario compartido para el juicio. La religión proveía todo esto. Cuando se retiró, dejó un vacío — no un vacío de creencia, sino un vacío de autoridad moral. El asiento estaba vacío. La pregunta nunca fue si alguien lo ocuparía. La pregunta fue quién.

Los nuevos sacerdotes

El Estado y las plataformas tecnológicas ocuparon el asiento. No de un día para el otro, y no por conspiración. Lo ocuparon porque estaban ahí, porque tenían alcance, y porque tenían algo que la iglesia nunca tuvo: datos.

El oficial de cumplimiento es el nuevo confesor. El puntaje de riesgo es el nuevo juicio moral. La política de moderación de contenido es el nuevo catecismo. Los términos de servicio son los nuevos mandamientos. Y el deplatforming — la remoción silenciosa de tu capacidad para hablar, transar o participar — es la nueva excomunión. Carga las mismas consecuencias sociales. Solo que no requiere apelación.

El lenguaje cambió. La estructura no. Sigue habiendo una autoridad que define el comportamiento aceptable. Siguen habiendo consecuencias por la transgresión. Sigue habiendo una historia moral que hace que todo el arreglo se sienta natural en lugar de impuesto.

La diferencia es que el sistema viejo era al menos explícito sobre ser un sistema de creencia. El nuevo se presenta como infraestructura neutral. Afirma estar gestionando riesgo, asegurando seguridad, protegiendo a los vulnerables. Estos no son artículos de fe. Se presentan como hechos. Y eso los hace más difíciles de cuestionar, no más fáciles.

Foucault llamó a este arreglo un régimen de verdad. Cada sociedad produce uno — los discursos que trata como verdaderos, los instrumentos que separan la verdad del error, las personas autorizadas a hablar. Lo que el capítulo ha estado describiendo es un régimen de verdad cuyo aparato es ahora infraestructura y cuyos hablantes autorizados son los sistemas de cumplimiento que lo operan.

El bucle de retroalimentación

Aquí es donde el mecanismo se vuelve auto-reforzante, y donde la versión moderna diverge de cualquier cosa que vino antes.

El bucle funciona así. Primero, se introduce una medida de control bajo una justificación moral — seguridad, protección infantil, seguridad nacional, integridad financiera. La justificación está cuidadosamente elegida para ser casi imposible de rebatir en público. Nadie quiere ser la persona que argumentó contra proteger a los niños.

Segundo, el encuadre moral hace que la sociedad esté dispuesta a aceptar menos privacidad. Si no tienes nada que ocultar, no tienes nada que temer. Si resistes la medida, eres como mínimo sospechoso y como máximo cómplice. La privacidad es reenmarcada no como un derecho sino como un obstáculo a la virtud.

Tercero, menos privacidad crea más datos. Más datos crea más superficie para la observación. Más observación crea más capacidad para el control — no solo de la amenaza original, sino de cualquier cosa que el sistema pueda ver. Y ahora puede ver muchísimo.

Cuarto — y este es el paso crítico — el aparato de control expandido genera nuevas justificaciones morales para su propia existencia. Ahora que tenemos estos datos, mira lo que podemos prevenir. Ahora que podemos ver estos patrones, sería irresponsable no actuar sobre ellos. La herramienta crea el argumento moral para la herramienta.

El bucle se cierra. El control produce el marco moral que justifica la próxima expansión del control. Cada giro del ciclo se siente razonable en aislamiento. En agregado, el trinquete solo gira en una dirección.

Cómo funciona el trinquete en la práctica

Los ejemplos no son teóricos.

El empuje por las puertas traseras de cifrado sigue el patrón con precisión. La historia moral es la seguridad infantil — la justificación más inatacable disponible. Nadie que argumente por el cifrado de extremo a extremo quiere ser posicionado como indiferente a la explotación de niños. El encuadre está diseñado para hacer la posición a favor de la privacidad moralmente insostenible en el discurso público. Pero una puerta no sabe quién está caminando a través de ella. Una puerta trasera construida para un propósito es una puerta trasera disponible para todos los propósitos. La realidad técnica no importa. La historia moral sí.

En los sistemas financieros, el patrón es la regulación KYC y AML. La historia moral es prevenir el lavado de dinero y el financiamiento del terrorismo. El efecto práctico es que cada persona en la tierra que quiere participar en el sistema financiero debe primero probar su identidad a un intermediario, que registra cada transacción, indefinidamente. La arquitectura de cumplimiento fue construida para atrapar criminales. Vigila a todos. En Estados Unidos, menos del 1% de los Reportes de Actividad Sospechosa conducen a alguna acción de las fuerzas del orden. El sistema observa a todos para ocasionalmente atrapar a alguien. Esa proporción no se discute.

La proporción importa porque revela la realidad estructural detrás de la historia moral. Un comerciante abre una cuenta de negocio. El banco requiere documentos de identidad, prueba de dirección, descripciones del volumen y los tipos de transacciones esperadas, y monitoreo continuo de cada pago recibido. Si el comerciante vende bienes legales a compradores voluntarios y no viola ninguna ley, la vigilancia continúa de todos modos. El sistema no te observa porque se sospeche algo de ti. Te observa para poder sospechar de ti después si lo necesita. La historia moral — estamos previniendo el crimen financiero — justifica una condición permanente de observación aplicada a todos, no una investigación dirigida aplicada a los pocos.

El lenguaje es estructural

La UE dijo seguridad. Lo mismo ha dicho cada anuncio de nueva arquitectura de control digital en la última década: seguridad, cumplimiento, responsabilidad, transparencia. Las palabras no están elegidas para describir. Están elegidas para anticipar la objeción.

Seguridad. ¿Quién argumenta contra la seguridad? La palabra no significa la ausencia de peligro. Significa la presencia de monitoreo. Cuando una plataforma dice que está haciendo la comunidad más segura, significa que ha expandido su capacidad para observar, clasificar y remover. Seguridad es la palabra que convierte la vigilancia en un regalo.

Cumplimiento. La palabra contiene su propio argumento. Cumplir es satisfacer un estándar. El estándar se presenta como externo y objetivo, como una ley de la física. Pero los estándares de cumplimiento son escritos por las mismas entidades que se benefician de ellos. La industria del cumplimiento no sirve a un marco moral. Es un marco moral — uno que genera ingresos para cada institución que participa en mantenerlo.

Responsabilidad. Esta es la palabra que se apunta a cualquiera que construya infraestructura que no recolecte datos. Estás siendo irresponsable. Estás habilitando a malos actores. El encuadre asume que el estado por defecto de un sistema es la visibilidad total, y que reducir la visibilidad es una elección activa para habilitar el daño. Invierte la carga. No se te requiere que justifiques observar a todos. Se te requiere que justifiques no observar.

Transparencia. Cuando se apunta a las instituciones, la palabra significa rendición de cuentas. Cuando se apunta a los individuos, significa exposición. Fíjate a quién se le pide ser transparente. Rara vez es a la entidad que hace las reglas. Es la persona sujeta a ellas. La transparencia, en la práctica, fluye hacia arriba desde el gobernado al gobernante. El gobernante llama a esto rendición de cuentas. En realidad es sumisión.

Cada una de estas palabras hace la misma cosa. Toma un mecanismo de control y le da la textura de un valor. No estás empujando contra un sistema. Estás empujando contra la seguridad, contra la responsabilidad, contra la transparencia. Y ahora tú eres el problema.

Por qué esto es más difícil de resistir que la religión

La vieja autoridad moral tenía una vulnerabilidad específica: era explícitamente metafísica. Requería fe. Podías rechazar las premisas. Podías decidir que no creías en un dios que llevaba la cuenta de tus pecados, y el sistema perdía su reclamo sobre ti. Millones hicieron exactamente eso. El secularismo fue, en un sentido real, el acto de dar un paso afuera del marco.

No hay afuera del nuevo marco.

La nueva autoridad moral no te pide que creas. Te pide que cumplas. No invoca lo sobrenatural. Invoca datos, modelos de riesgo, evaluaciones algorítmicas. Estos cargan la autoridad de la objetividad. Se sienten como hechos en lugar de afirmaciones. El sacerdote necesitaba que aceptaras una cosmología. El sistema de cumplimiento solo necesita tu documento.

Peor, el nuevo marco está distribuido. No hay papa al que desafiar, no hay concilio al que peticionar. La autoridad moral está embebida en los términos de servicio, en las reglas de procesamiento de pagos, en los algoritmos de contenido, en los modelos de puntaje crediticio. Está en todas partes y en ninguna. Opera a través de infraestructura en lugar de doctrina, lo que la hace sentir menos como autoridad y más como simplemente la forma en que las cosas son.

Cuando el control está embebido en la infraestructura, la resistencia parece inconveniencia en el mejor caso y desviación en el peor. No te estás rebelando contra un sistema de creencias. Estás fallando en cumplir con un proceso. Y los procesos no tienen argumentos contigo. Simplemente te excluyen.

Havel lo describió en 1978 y lo llamó post-totalitarismo. La palabra significaba una cosa específica. Un sistema cuya autoridad corre no por la fuerza sino por el vocabulario moral de la gente dentro de él. El verdulero cuelga el eslogan en su ventana y no se le pide creerlo. Se le pide participar en el ritual por el cual el sistema le pide prestado su lenguaje de vuelta. El mismo arreglo llega ahora por rail de pago en lugar de por Partido.

La historia moral se escribe sola ahora

Esta es la parte novedosa. El bucle de retroalimentación ha alcanzado un punto en el que el sistema genera su propia justificación moral más rápido de lo que cualquier institución podría.

Las plataformas de redes sociales observan el comportamiento a lo largo de miles de millones de interacciones simultáneamente, y cada nueva observación genera una nueva categoría de daño que justifica más observación. Nuevas formas de habla son identificadas como peligrosas. Nuevos patrones de transacciones son marcados como sospechosos. Nuevos comportamientos son clasificados como riesgosos. Cada clasificación es un juicio moral vestido de lenguaje técnico. Cada una crea el caso para la próxima expansión.

La velocidad importa. Cuando emerge una crisis — un tiroteo, un escándalo financiero, una indignación pública — la demanda moral de más control llega en horas. La infraestructura para entregarlo ya existe. La expansión ocurre antes de la deliberación. Y la deliberación, cuando llega, enfrenta a un sistema que ya ha normalizado el nuevo límite.

Ningún sistema previo de control moral operó a esta velocidad. La iglesia tomó décadas para cambiar doctrina. Las legislaturas toman años. El marco moral algorítmico se actualiza continuamente, y cada actualización se convierte en el nuevo predeterminado.

Una prueba: si un principio moral, plenamente implementado, expande la autoridad de la institución, es estructural — un mecanismo de control vistiendo el lenguaje de los valores.

Lo que rompe el bucle

Si el bucle de retroalimentación corre sobre la entrega de la privacidad en nombre de la virtud, el cortacircuitos es infraestructura que no requiere esa entrega.

No privacidad como preferencia. No privacidad como un ajuste que puedes activar. Privacidad como un predeterminado arquitectónico — sistemas donde los datos no se recolectan en primer lugar, donde la observación no es posible sin una causa específica y justificada, donde el trinquete no tiene nada que girar.

Por eso el debate sobre las herramientas de privacidad nunca es realmente sobre las herramientas de privacidad. Es sobre si el bucle de retroalimentación tiene un interruptor de apagado. Cada sistema que recolecta datos por defecto es un sistema que eventualmente encontrará una razón moral para usarlos. La única forma confiable de prevenir el mal uso de los datos es no tenerlos.

El sistema de órdenes judiciales entendió esto. No puedes registrar la casa primero y justificarlo después. La justificación debe preceder a la intrusión. Ese principio — aplicado a la infraestructura digital, a los sistemas de pago, a las redes de comunicación — es la respuesta estructural al bucle de retroalimentación. No confianza en la bondad de la gente que administra el sistema. Arquitectura que no requiera confianza en primer lugar.

La conclusión

Todo sistema de control necesita una historia moral. La historia es lo que hace al control tolerable — lo que hace que se sienta como protección en lugar de sometimiento. Durante siglos, la religión proveyó esa historia. Ya no lo hace, para la mayoría de la gente, en la mayoría de los lugares.

Lo que la reemplazó no es la ausencia de un marco moral. Es un marco moral tan embebido en la infraestructura que no parece uno. Seguridad. Cumplimiento. Gestión de riesgo. Estas son las palabras del nuevo catecismo. Cargan peso moral sin admitirlo. Crean obligaciones sin llamarlas así. Y expanden los límites del control aceptable con cada ciclo de noticias.

La pregunta no es si confías en la gente actual que sostiene las llaves. La pregunta es si quieres un sistema donde se necesiten llaves en absoluto.

¿Cómo se ve cuando el bucle no tiene nada que girar? Un comprador le paga a un comerciante. El pago se liquida. Ningún intermediario registra la identidad del comprador. Ningún sistema de cumplimiento asigna un puntaje de riesgo. Ningún vocabulario moral es requerido porque no se está haciendo ningún juicio. La transacción es solo una transacción — no una confesión, no una solicitud de permiso, no un punto de datos en el modelo que otro tiene sobre quién eres. Así es como se ve un pago cuando la arquitectura no recolecta lo que el trinquete necesita para girar.

La privacidad por defecto no es una posición política. Es la decisión de ingeniería que impide que el bucle se cierre.³