Quienes manipulan este mecanismo invisible de la sociedad constituyen un gobierno invisible que es el verdadero poder gobernante de nuestro país.
— Edward Bernays, Propaganda, 1928
Durante un tramo de 2020 vi cambiar un vocabulario delante de mí. La gente que hablaba para vivir — creadores cuya subsistencia dependía de la plataforma que los hospedaba — dejó de decir el nombre del virus que estaba matando a sus vecinos. La palabra salió de circulación abruptamente. En su lugar llegaron the bug, the sickness, the beer virus, the ‘rona, the panda. El rodeo no era coqueto. Era supervivencia. El sistema publicitario había empezado a leer ciertos fonemas como una señal de desmonetización, y los humanos al otro lado de ese sistema se adaptaron más rápido de lo que cualquier código de habla impuesto desde arriba habría conseguido.
Nadie les dijo que dijeran beer virus. Nadie tuvo que hacerlo. El peso estaba en el cable.
Esa es la parte de la arquitectura que este capítulo describe: el sustrato que se asienta debajo del vocabulario moral que los capítulos anteriores nombraron. El control corre dos modos sobre él. El cuello de botella dice no puedes pasar. La inundación hace lo opuesto, para las emergencias que ningún cuello de botella puede detener: cuando no hay centro que tomar ni liderazgo al que citar a juicio, no bloqueas la señal, inundas el espectro de ruido hasta que nadie que no esté escuchando ya pueda encontrarla. Herbert Simon nombró en 1971 la escasez que la inundación explota, cuando escribió que una riqueza de información crea una pobreza de atención. Al cuello de botella puedes apuntarlo, votar en su contra, rodearlo. La inundación es clima, y no puedes ganarle al clima por argumento. Solo puedes construir algo que funcione en él.
La palabra es antigua — del latín matrix, de mater, un molde que da forma a lo que crece dentro. Un objeto matemático. Una cuadrícula de pesos. Una estructura que toma lo que ya está ahí y decide, celda por celda, cuánto de ello puede ver el siguiente observador.
Hay tres celdas que quiero que veas con claridad. El índice, el anzuelo y el peso.
El índice
La indexación es una de las estructuras más poderosas de la computación. También es una de las más silenciosas. La mayoría de los usuarios pasarán toda su vida sin saber que lo que llaman “el internet” es, de hecho, la pequeña rebanada del internet que un índice comercial decidió mostrarles hoy.
El territorio no es el mapa. Todos lo saben. Lo que hace el índice — y lo que lo vuelve estructural en un modo que la metáfora del mapa no termina de capturar — es que, para la abrumadora mayoría de las personas, el índice es el territorio. Lo que no está en el índice no existe. Una página que no puede ser alcanzada por una búsqueda no puede ser alcanzada. Un libro que no aparece cuando un lector lo busca no se lee. Un argumento que no rankea no entra en la conversación.
Controlar un mapa del mundo es un tipo de poder. Controlar el único camino por el que la mayoría llega al mundo es un tipo distinto.
El índice no tiene que mentir. No tiene que borrar nada. Tiene que elegir qué va primero, qué va décimo, qué aparece en la segunda página, y qué es efectivamente invisible porque nadie tiene el tiempo para seguir bajando. Ese ordenamiento — pequeñas decisiones repetidas a escala, automatizadas, reajustadas de modo continuo — es percepción en la capa del protocolo.
Leo un índice como una generación anterior leía el noticiero de la noche. No es el mundo. Es lo que una institución decidió poner delante de mí hoy, en qué orden. Cuando aprendo algo solo a través del índice, no he aprendido sobre el mundo. He aprendido sobre el índice.
La gente que estudia esto lo ha nombrado: el filtro burbuja de Eli Pariser (2011), el horizonte personalizado tan sin costuras que el lector no nota dónde termina; el capitalismo de la vigilancia de Zuboff (2019), la economía que vuelve rentable la personalización; Armas de destrucción matemática de Cathy O’Neil (2016), sobre los sistemas de ranking desplegados como árbitros opacos e inapelables en contratación, crédito y vigilancia policial. Tres nombres para la misma arquitectura. Este capítulo usa uno más antiguo.
El anzuelo
La segunda celda es la que cada usuario siente en su cuerpo y nunca ve.
Los mecanismos de los feeds sociales no son sociales. Fueron tomados, golpe por golpe, de la máquina tragamonedas. Refuerzo de razón variable. Una recompensa que llega con la suficiente imprevisibilidad como para que la palanca se siga jalando. Los conductistas resolvieron esto hace décadas con palomas. Los diseñadores de casinos lo industrializaron sobre humanos. El feed tomó el mismo bucle — like, swipe, scroll, tirón, éxito ocasional — y lo puso en cada bolsillo.
Addiction by Design (2012) de Natasha Dow Schüll es el registro académico de cómo la máquina tragamonedas fue ingeniada, a lo largo de décadas, para optimizar el bucle exacto que hoy llamamos un feed. La máquina fue el prototipo; el feed es la escala de producción. La genealogía no es accidental: el laboratorio de tecnología persuasiva de B.J. Fogg en Stanford (Persuasive Technology, 2003) entrenó a muchos de los diseñadores que luego construyeron los productos que usas a diario, con un plan de estudios de cambio de conducta.
La palabra influencer no es gratuita. El oficio ha usado esa palabra como un oficio siempre usa la palabra para lo que realmente hace. Un influencer influencia. El modelo de negocio nombra el mecanismo. Los cuartos donde las plataformas son diseñadas también lo nombran, en su propio vocabulario interno — engagement, retención, duración de sesión, permanencia. El piso del casino y el feed convergieron en el mismo objetivo de entrenamiento porque están resolviendo el mismo problema con la misma herramienta. El dilema de las redes sociales (2020) dejó que la gente que construyó esos cuartos lo dijera en voz alta, frente a la cámara — ex jefes de producto en las mayores plataformas describiendo el objetivo de optimización con sus propias palabras. No una conspiración. Una evaluación de desempeño. Lo que una evaluación premia es lo que un sistema produce.
El feed tiene una ventaja que el casino no tiene. Te conoce. El casino sintoniza su piso para el apostador promedio; el feed sintoniza su superficie para ti. Tiene tu clickstream entero, tus pausas, tus relecturas, tus hovers, tus sesiones de madrugada. Sabe qué encuadre aterriza contigo y cuál no. Puede alcanzar la forma exacta de señal que más probablemente te mueva — no necesariamente moverte a un lugar en particular, sino moverte lo suficiente como para retenerte. Un cuarto personalizado sin puertas.
Y aquí está la parte que importa para este capítulo. El anzuelo no es persuasión racional ni un argumento que puedas refutar, sino un bucle fisiológico calibrado sobre un neuroquímico que compartes con cualquier otro mamífero. Nadie está discutiendo contigo. El aparato simplemente se ajusta, de manera continua, hasta que el cronograma de refuerzo es óptimo. Cuando dejas el teléfono y no puedes nombrar lo que leíste, eso no es una falla de tu atención. Eso es el éxito del peso.
El peso
La tercera celda es la más nueva. También es la que el libro ya nombró, en otros contextos, como el lugar donde se está decidiendo el próximo siglo.
El entrenamiento de IA es un sistema cerrado. Lo digo estructuralmente, no retóricamente. Un pequeño número de laboratorios, cada uno con cómputo enorme y un dataset privado, decide qué ve el modelo, en qué proporción, con qué corrección posterior. La capa de refuerzo — la parte donde humanos califican salidas y el modelo es moldeado por sus preferencias — es donde vive la verdadera decisión editorial. La selección de datos es el primer filtro. El modelo de recompensa es el segundo. La barrera de despliegue es el tercero. Al final de esos tres filtros sale una voz que suena como una persona y habla con la compostura de una obra de referencia.
Emily Bender, Timnit Gebru y colegas describieron la forma de esa decisión cerrada en On the Dangers of Stochastic Parrots (2021), una advertencia desde dentro del campo sobre escala, costo ambiental, y las decisiones editoriales invisibles horneadas en el corpus de entrenamiento. Dos de las autoras ya no trabajaban en la institución que les pagaba cuando el paper salió impreso. La advertencia queda en el registro. Atlas of AI (2021) de Kate Crawford recorrió el mismo terreno desde el ángulo de los costos materiales y laborales de la infraestructura por debajo del modelo.
Ninguno de nosotros tiene voto en los pesos.
Esta no es una frase anti-IA. El libro ha sido, desde el primer capítulo, un registro de lo que el espejo hizo posible para una persona. La observación aquí es más estrecha: un sistema que le habla a cientos de millones de personas en una voz moldeada por un puñado de decisiones internas es un sistema cuya superficie editorial es más pequeña que la de un solo periódico en 1950. El alcance es mayor que el de cualquier periódico. El número de humanos que participan en la decisión editorial es menor. Cualquier cosa que uno piense de la salida, la forma del caño es el punto.
Y la salida del peso se convierte en insumo de entrenamiento para el siguiente modelo, para el siguiente índice, para el siguiente rankeador de posts sociales. Las tres celdas no se sientan lado a lado. Se alimentan mutuamente. El índice entrena sobre lo que el anzuelo mostró. El peso entrena sobre lo que el índice rankeó. El anzuelo se afina sobre lo que el peso produjo. La matriz no es estática. Es un bucle que se aprieta cada trimestre.
Un espécimen, a plena vista
Vuelve al cambio de vocabulario de 2020. Cada capa de la matriz está presente ahí.
El índice ya estaba entrenado para ordenar ciertas frases hacia arriba y otras hacia abajo, según política. El anzuelo ya estaba afinado para castigar subidas de bajo engagement con alcance reducido. El peso — el rankeador publicitario que decide si un video gana algo para el creador que pasó una semana haciéndolo — empezó a tratar un cúmulo de fonemas como una señal de riesgo. YouTube publicó su COVID-19 medical misinformation policy en la primavera de 2020, y la revisó repetidamente durante los dos años siguientes; las revisiones mismas están archivadas en las propias páginas de soporte de la plataforma. No se aprobó ninguna ley. No se emitió ningún comunicado de prensa más allá del de la propia plataforma. El cambio se sintió en los tableros de decenas de miles de creadores que notaron, en un día, que los videos donde decían una palabra estaban ganando menos que los videos donde decían otra palabra.
Lo que sucedió a continuación no fue obediencia a una regla. Fue adaptación a un gradiente. Beer virus. The bug. The sickness. The panda. The ‘rona. Un vocabulario emergió en tiempo real — gracioso, un poco desafiante, afectuoso en sus evasiones — y cada eufemismo era una decisión pequeña e individualmente racional para rodear el peso. Presta atención al afecto. Los creadores no estaban enojados. Estaban jugando un juego cuyas reglas habían aceptado. El aparato no necesitaba que creyeran nada. Solo necesitaba que siguieran creando, dentro de su gradiente, en sus términos.
Esta es la parte con la que quiero quedarme. Nadie en esa cadena era un villano. Los ingenieros de la plataforma estaban resolviendo lo que llamaban un problema de desinformación. El rankeador publicitario estaba haciendo lo que hacen los rankeadores publicitarios. Los creadores estaban pagando el alquiler. Los espectadores veían eufemismos graciosos y pensaban, por un momento, que los eufemismos eran el chiste. Nadie propuso un código de habla. El habla cambió igual. Así se ve cuando la historia moral del cuello de botella, la inundación de la capa de atención y el aparato de este capítulo operan juntos sobre la misma población en el mismo trimestre.
El mismo aparato corre a cada escala. Qué enfermedades son fashionables de nombrar, qué guerra está siendo descrita con qué vocabulario, qué tipo de habla es silenciosamente ahogada, qué tipo es promovida — nada de esto requiere un anuncio. Los pesos alcanzan.
Los términos de admisión
Cada superficie dentro de la matriz tiene un contrato en la puerta. Términos de servicio, términos de uso, pautas de comunidad, pautas de contenido apto para anunciantes, políticas de plataforma, uso aceptable. Los contratos no se leen. No pueden leerse — ni por una persona, ni significativamente por la mayoría de los abogados, ni en el tiempo entre descargar la app y usarla. Son legalmente vinculantes y prácticamente invisibles, que es una descripción precisa de lo que reemplazó al catecismo unos capítulos atrás. Nadie recitaba el Credo de Nicea antes de recibir la comunión en 2026. Todos cliquean Acepto.
Lo que los contratos establecen no es el contenido. Es el derecho del operador a cambiar los pesos. Después, unilateralmente, sin aviso. Esa cláusula está en todos ellos porque es la única cláusula que realmente importa. El resto del documento es ornamento. El derecho a reajustar la matriz es el activo.
Un lector que entiende esa frase entiende por qué el cambio de habla en 2020 no requirió un código de habla. Los términos ya habían concedido el punto.
Lo que Bitcoin puede y no puede hacer aquí
Bitcoin no puede sostener el internet. La escala de la capa de información — cada video, cada página, cada salida de modelo — está órdenes de magnitud más allá de lo que puede cargar un bloque de diez minutos, y la capa base nunca fue diseñada, con buen juicio, para intentarlo. Si lo que uno quería de la matriz era un índice de reemplazo, un feed de reemplazo, un modelo de reemplazo, nada de eso va a venir de una cadena que añade unos pocos kilobytes cada diez minutos. La cadena no es un sustrato de contenido. Es un reloj.
Lo que un reloj ofrece aquí es estrecho. Ancla un compromiso a un tiempo específico, a un costo específico, bajo una identidad específica, y una vez anclado ese compromiso no puede ser silenciosamente editado por quien sea dueño del índice este trimestre, degradado a la inexistencia en una actualización de ranking, ni sobrescrito en una actualización del corpus de entrenamiento. El aparato por encima del reloj puede ignorar el compromiso; no puede deshacerlo. Eso no es una solución a la matriz, que va a seguir indexando, enganchando y pesando, y la mayor parte de lo que suceda en un día dado va a seguir sucediendo dentro de su gradiente. Lo que el ancla provee es la supervivencia de un registro: una observación hecha a un tiempo específico, por alguien dispuesto a pagar por ella, sigue estando ahí cinco años después, incluso después de que el índice la ha ordenado hacia la página cuarenta y el próximo modelo se ha entrenado sobre un corpus que la omite. No una señal más fuerte. Una señal que no se evapora.
El libro vuelve, varios capítulos más adelante, a lo que sucede cuando suficientes de esos registros anclados se acumulan en una estructura. Para este capítulo, el reclamo más estrecho alcanza. Bitcoin no es un internet nuevo. Es un lugar al que el internet actual no puede entrar a borrar.
Lo que rechaza la forma
Hay otros sistemas que rechazan la forma de la matriz, y vale la pena nombrarlos junto a Bitcoin.
NOSTR es uno. Notes and Other Stuff Transmitted by Relays: no una plataforma sino un protocolo. Un usuario publica notas firmadas por un par de llaves que posee; los relays almacenan y reenvían; los lectores se suscriben a los relays que elijan. No hay un operador único, ningún feed central que afinar, ningún modelo de recompensa que reentrenar, y si un relay banea a un usuario, su llave y su historia se mueven a otro sin pedir permiso. El índice es local, el anzuelo está ausente por defecto, el peso es el que el lector elija aplicar.
NOSTR todavía no es grande, y la mayoría de sus usuarios viene del mundo Bitcoin, pero esa es una observación sobre adopción, no sobre arquitectura. Lo que importa aquí es la forma, y la forma rechaza las tres celdas. Un lector que quiera salirse de la matriz por una hora tiene un lugar adonde ir que no se resuelve de vuelta en el mismo aparato bajo otro logo.
El patrón generaliza. Identidad en llaves en lugar de cuentas. Clientes que el lector posee en lugar de los de la plataforma. Índices compuestos en lugar de recibidos. Feeds ordenados por las reglas del lector en lugar de por un modelo de recompensa privado. Estas son primitivas de diseño, no productos. Cualquiera de ellas que se vuelva una plataforma deja de hacer el trabajo. El trabajo está en negarse a volverse el panal.
Y negarse no es un acto que se hace una sola vez. La fuerza que construyó la matriz opera también sobre los que se niegan. La mayoría de los usuarios de NOSTR ya leen a través de un puñado de clientes populares, y quien publica el cliente por defecto publica el índice por defecto. Alguien ofrecerá un feed rankeado como conveniencia, y la conveniencia ganará usuarios como la conveniencia gana siempre. Nada de eso es traición. Es el panal reformándose una capa más arriba, a partir de nada más siniestro que la preferencia por lo fácil. La defensa es la que ya quedó nombrada: mantener la identidad en la llave y la salida barata, para que cuando un cliente o un relay crezca hasta volverse un punto de estrangulamiento, irse cueste un clic y no una historia.
La matriz corre porque casi todo dentro de ella fue construido por una razón que suena razonable. Rankea porque rankear es útil. Engancha porque el engagement es medible. Pesa porque pesar es necesario para construir un modelo en primer lugar. El aparato no tiene que ser malvado para ser capturable. Tiene que estar concentrado, y lo está.
Hay una razón por la que el lema don’t be evil recedió silenciosamente en una de las más grandes hace algunos años. Tomo la remoción no como una confesión sino como una admisión adulta, de parte de gente que había crecido dentro de una institución cuyo alcance ahora entendía. Cuando un índice, un feed, un corpus de entrenamiento alcanzan la escala a la que el producto es el mundo para la mayoría de los usuarios, la promesa de no ser malvado se vuelve más difícil de cumplir, no porque la gente detrás haya cambiado sino porque la cosa detrás de la que están se ha vuelto lo bastante grande como para que su mera existencia cree presiones que ninguna decisión individual puede absorber.
Un cuello de botella lo bastante grande eventualmente va a ser aproximado por cada institución que se beneficia de uno: las fuerzas del orden, los servicios de inteligencia, estados extranjeros, anunciantes, reguladores, litigantes, cada uno pidiendo a través de los canales correctos que los pesos se inclinen ligeramente hacia su preocupación. Cada pedido suena razonable por sí mismo. El agregado es un cuello de botella que ya no pertenece a los ingenieros que lo construyeron. La promesa no se volvió falsa. Se volvió estructuralmente imposible de cumplir, y el movimiento honesto fue dejar de hacerla.
Por eso la respuesta, en este libro, no es nunca mejores pesos. Los mejores pesos duran exactamente lo que dura el panal contra las instituciones que giran alrededor de él, que es nunca. La respuesta son arquitecturas que no producen un panal en primer lugar — Bitcoin en la capa del dinero, NOSTR y protocolos como él en la capa de publicación, y cualquier otra primitiva que se niegue a concentrar las celdas en una sola superficie sobre la que una institución pueda apoyarse.
Esas arquitecturas comparten una segunda propiedad, y la inundación es la razón de que importe. La complejidad es superficie de captura. Un sistema que sigue agregando alcance, funciones nuevas, decisiones de gobernanza nuevas, un roadmap que nunca termina, sigue agregando lugares donde el ruido puede adherirse y donde la vieja lógica del cuello de botella puede reafirmarse por la puerta de atrás. Bitcoin es angosto por diseño. Una función, endurecida por la simplicidad, nada que agarrar. La angostura se lee como una limitación hasta que ves trabajar a la inundación. Una señal lo bastante angosta y lo bastante consistente no sobrevive a la inundación gritando más fuerte. Sobrevive siendo la única cosa en el agua que sigue haciendo lo mismo que hacía antes de que empezara la inundación.
El primer paso afuera, si lo hay, no es una herramienta sino el momento en que notas las celdas.