Quienes manipulan este mecanismo invisible de la sociedad constituyen un gobierno invisible que es el verdadero poder gobernante de nuestro país.
— Edward Bernays, Propaganda, 1928
Durante un tramo de 2020 vi cambiar un vocabulario delante de mí. La gente que hablaba para vivir — creadores cuya subsistencia dependía de la plataforma que los hospedaba — dejó de decir el nombre del virus que estaba matando a sus vecinos. La palabra salió de circulación abruptamente. En su lugar llegaron the bug, the sickness, the beer virus, the ‘rona, the panda. El rodeo no era coqueto. Era supervivencia. El sistema publicitario había empezado a leer ciertos fonemas como una señal de desmonetización, y los humanos al otro lado de ese sistema se adaptaron más rápido de lo que cualquier código de habla impuesto desde arriba habría conseguido.
Nadie les dijo que dijeran beer virus. Nadie tuvo que hacerlo. El peso estaba en el cable.
Esa es la parte de la arquitectura que quiero describir en este capítulo — la parte que se asienta debajo del vocabulario moral que los capítulos anteriores nombraron, y debajo del diluvio que el capítulo anterior nombró. El sustrato sobre el que corren ambos modos.
La palabra es antigua — del latín matrix, de mater, un molde que da forma a lo que crece dentro. Un objeto matemático. Una cuadrícula de pesos. Una estructura que toma lo que ya está ahí y decide, celda por celda, cuánto de ello puede ver el siguiente observador.
Hay tres celdas que quiero que veas con claridad. El índice, el anzuelo y el peso.
El índice
La indexación es una de las estructuras más poderosas de la computación. También es una de las más silenciosas. La mayoría de los usuarios pasarán toda su vida sin saber que lo que llaman “el internet” es, de hecho, la pequeña rebanada del internet que un índice comercial decidió mostrarles hoy.
El territorio no es el mapa. Todos lo saben. Lo que hace el índice — y lo que lo vuelve estructural en un modo que la metáfora del mapa no termina de capturar — es que, para la abrumadora mayoría de las personas, el índice es el territorio. Lo que no está en el índice no existe. Una página que no puede ser alcanzada por una búsqueda no puede ser alcanzada. Un libro que no aparece cuando un lector lo busca no se lee. Un argumento que no rankea no entra en la conversación.
Controlar un mapa del mundo es un tipo de poder. Controlar el único camino por el que la mayoría llega al mundo es un tipo distinto.
El índice no tiene que mentir. No tiene que borrar nada. Tiene que elegir qué va primero, qué va décimo, qué aparece en la segunda página, y qué es efectivamente invisible porque nadie tiene el tiempo para seguir bajando. Ese ordenamiento — pequeñas decisiones repetidas a escala, automatizadas, reajustadas de modo continuo — es percepción en la capa del protocolo.
Leo un índice como una generación anterior leía el noticiero de la noche. No es el mundo. Es lo que una institución decidió poner delante de mí hoy, en qué orden. Cuando aprendo algo solo a través del índice, no he aprendido sobre el mundo. He aprendido sobre el índice.
La gente que estudia esto le ha dado nombres. Eli Pariser lo llamó el filtro burbuja en 2011 — el horizonte personalizado que un algoritmo construye alrededor de cada lector, tan sin costuras que el lector no nota dónde termina. Shoshana Zuboff más tarde nombró la máquina más amplia capitalismo de la vigilancia (2019) — la economía que vuelve rentable la personalización. Cathy O’Neil, en Armas de destrucción matemática (2016), documentó lo que sucede cuando los sistemas de ranking son desplegados como árbitros en contratación, crédito, vigilancia policial y educación — opacos, inapelables, a escala. Tres buenos nombres para la misma arquitectura. Este capítulo está usando uno más antiguo.
El anzuelo
La segunda celda es la que cada usuario siente en su cuerpo y nunca ve.
Los mecanismos de los feeds sociales no son sociales. Fueron tomados, golpe por golpe, de la máquina tragamonedas. Refuerzo de razón variable. Una recompensa que llega con la suficiente imprevisibilidad como para que la palanca se siga jalando. Los conductistas resolvieron esto hace décadas con palomas. Los diseñadores de casinos lo industrializaron sobre humanos. El feed tomó el mismo bucle — like, swipe, scroll, tirón, éxito ocasional — y lo puso en cada bolsillo.
Addiction by Design (Princeton, 2012) de Natasha Dow Schüll es el registro académico de cómo la máquina tragamonedas moderna fue ingeniada, a lo largo de décadas, para optimizar el bucle exacto que hoy llamamos un feed. La máquina fue el prototipo. El feed es la escala de producción. Y la genealogía no es accidental. El laboratorio de tecnología persuasiva de B.J. Fogg en Stanford (Persuasive Technology, 2003) entrenó a muchos de los diseñadores que luego construyeron los productos que usas a diario. El plan de estudios era cambio de conducta. Los egresados fueron contratados para aplicarlo.
La palabra influencer no es gratuita. El oficio ha usado esa palabra como un oficio siempre usa la palabra para lo que realmente hace. Un influencer influencia. El modelo de negocio nombra el mecanismo. Los cuartos donde las plataformas son diseñadas también lo nombran, en su propio vocabulario interno — engagement, retención, duración de sesión, permanencia. El piso del casino y el feed convergieron en el mismo objetivo de entrenamiento porque están resolviendo el mismo problema con la misma herramienta. El dilema de las redes sociales (2020) dejó que la gente que construyó esos cuartos lo dijera en voz alta, frente a la cámara — ex jefes de producto en las mayores plataformas describiendo el objetivo de optimización con sus propias palabras. No una conspiración. Una evaluación de desempeño. Lo que una evaluación premia es lo que un sistema produce.
El feed tiene una ventaja que el casino no tiene. Te conoce. El casino sintoniza su piso para el apostador promedio; el feed sintoniza su superficie para ti. Tiene tu clickstream entero, tus pausas, tus relecturas, tus hovers, tus sesiones de madrugada. Sabe qué encuadre aterriza contigo y cuál no. Puede alcanzar la forma exacta de señal que más probablemente te mueva — no necesariamente moverte a un lugar en particular, sino moverte lo suficiente como para retenerte. Un cuarto personalizado sin puertas.
Y aquí está la parte que importa para este capítulo. El anzuelo no es persuasión racional. No es un argumento que puedas refutar. Es un bucle fisiológico calibrado sobre un neuroquímico que compartes con cualquier otro mamífero. Nadie está discutiendo contigo. El aparato simplemente se ajusta, de manera continua, hasta que el cronograma de refuerzo es óptimo. Cuando dejas el teléfono y no puedes nombrar lo que leíste, eso no es una falla de tu atención. Eso es el éxito del peso.
El peso
La tercera celda es la más nueva. También es la que el libro ya nombró, en otros contextos, como el lugar donde se está decidiendo el próximo siglo.
El entrenamiento de IA es un sistema cerrado. Lo digo estructuralmente, no retóricamente. Un pequeño número de laboratorios, cada uno con cómputo enorme y un dataset privado, decide qué ve el modelo, en qué proporción, con qué corrección posterior. La capa de refuerzo — la parte donde humanos califican salidas y el modelo es moldeado por sus preferencias — es donde vive la verdadera decisión editorial. La selección de datos es el primer filtro. El modelo de recompensa es el segundo. La barrera de despliegue es el tercero. Al final de esos tres filtros sale una voz que suena como una persona y habla con la compostura de una obra de referencia.
Emily Bender, Timnit Gebru y colegas describieron la forma de esa decisión cerrada en On the Dangers of Stochastic Parrots (FAccT 2021). El paper fue una advertencia desde dentro del campo — sobre escala, sobre costo ambiental, sobre las decisiones editoriales invisibles horneadas en el corpus de entrenamiento, sobre lo que sucede cuando un sistema que no puede saber lo que está diciendo le habla a miles de millones de personas que asumen que sí. Dos de las autoras ya no trabajaban en la institución que les pagaba cuando el paper salió impreso. La advertencia queda en el registro. Atlas of AI (Yale, 2021) de Kate Crawford recorrió el mismo terreno desde otro ángulo — los costos materiales, políticos y laborales de la infraestructura por debajo del modelo, presentados para un lector general.
Ninguno de nosotros tiene voto en los pesos.
Esta no es una frase anti-IA. El libro ha sido, desde el primer capítulo, un registro de lo que el espejo hizo posible para una persona. La observación aquí es más estrecha: un sistema que le habla a cientos de millones de personas en una voz moldeada por un puñado de decisiones internas es un sistema cuya superficie editorial es más pequeña que la de un solo periódico en 1950. El alcance es mayor que el de cualquier periódico. El número de humanos que participan en la decisión editorial es menor. Cualquier cosa que uno piense de la salida, la forma del caño es el punto.
Y la salida del peso se convierte en insumo de entrenamiento para el siguiente modelo, para el siguiente índice, para el siguiente rankeador de posts sociales. Las tres celdas no se sientan lado a lado. Se alimentan mutuamente. El índice entrena sobre lo que el anzuelo mostró. El peso entrena sobre lo que el índice rankeó. El anzuelo se afina sobre lo que el peso produjo. La matriz no es estática. Es un bucle que se ajusta cada trimestre.
Un espécimen, a plena vista
Vuelve al cambio de vocabulario de 2020. Cada capa de la matriz está presente ahí.
El índice ya estaba entrenado para ordenar ciertas frases hacia arriba y otras hacia abajo, según política. El anzuelo ya estaba afinado para castigar subidas de bajo engagement con alcance reducido. El peso — el rankeador publicitario que decide si un video gana algo para el creador que pasó una semana haciéndolo — empezó a tratar un cúmulo de fonemas como una señal de riesgo. YouTube publicó su COVID-19 medical misinformation policy en la primavera de 2020, y la revisó repetidamente durante los dos años siguientes; las revisiones mismas están archivadas en las propias páginas de soporte de la plataforma. No se aprobó ninguna ley. No se emitió ningún comunicado de prensa más allá del de la propia plataforma. El cambio se sintió en los tableros de decenas de miles de creadores que notaron, en un día, que los videos donde decían una palabra estaban ganando menos que los videos donde decían otra palabra.
Lo que sucedió a continuación no fue obediencia a una regla. Fue adaptación a un gradiente. Beer virus. The bug. The sickness. The panda. The ‘rona. Un vocabulario emergió en tiempo real — gracioso, un poco desafiante, afectuoso en sus evasiones — y cada eufemismo era una decisión pequeña e individualmente racional para rodear el peso. Presta atención al afecto. Los creadores no estaban enojados. Estaban jugando un juego cuyas reglas habían aceptado. El aparato no necesitaba que creyeran nada. Solo necesitaba que siguieran creando, dentro de su gradiente, en sus términos.
Esta es la parte con la que quiero quedarme. Nadie en esa cadena era un villano. Los ingenieros de la plataforma estaban resolviendo lo que llamaban un problema de desinformación. El rankeador publicitario estaba haciendo lo que hacen los rankeadores publicitarios. Los creadores estaban pagando el alquiler. Los espectadores veían eufemismos graciosos y pensaban, por un momento, que los eufemismos eran el chiste. Nadie propuso un código de habla. El habla cambió igual. Así se ve cuando la historia moral del cuello de botella, el diluvio de la capa de atención y el aparato de este capítulo operan juntos sobre la misma población en el mismo trimestre.
El mismo aparato corre a cada escala. Qué enfermedades son fashionables de nombrar, qué guerra está siendo descrita con qué vocabulario, qué tipo de habla es silenciosamente ahogada, qué tipo es promovida — nada de esto requiere un anuncio. Los pesos alcanzan.
Los términos de admisión
Cada superficie dentro de la matriz tiene un contrato en la puerta. Términos de servicio, términos de uso, pautas de comunidad, pautas de contenido apto para anunciantes, políticas de plataforma, uso aceptable. Los contratos no se leen. No pueden leerse — ni por una persona, ni significativamente por la mayoría de los abogados, ni en el tiempo entre descargar la app y usarla. Son legalmente vinculantes y prácticamente invisibles, que es una descripción precisa de lo que reemplazó al catecismo unos capítulos atrás. Nadie recitaba el Credo de Nicea antes de recibir la comunión en 2026. Todos cliquean Acepto.
Lo que los contratos establecen no es el contenido. Es el derecho del operador a cambiar los pesos. Después, unilateralmente, sin aviso. Esa cláusula está en todos ellos porque es la única cláusula que realmente importa. El resto del documento es ornamento. El derecho a reajustar la matriz es el activo.
Un lector que entiende esa frase entiende por qué el cambio de habla en 2020 no requirió un código de habla. Los términos ya habían concedido el punto.
Lo que Bitcoin puede y no puede hacer aquí
Bitcoin no puede sostener el internet. La escala de la capa de información — cada video, cada página, cada salida de modelo — está órdenes de magnitud más allá de lo que puede cargar un bloque de diez minutos, y la capa base nunca fue diseñada, con buen juicio, para intentarlo. Si lo que uno quería de la matriz era un índice de reemplazo, un feed de reemplazo, un modelo de reemplazo, nada de eso va a venir de una cadena que añade unos pocos kilobytes cada diez minutos. La cadena no es un sustrato de contenido. Es un reloj.
Lo que un reloj le ofrece al lector de este capítulo es estrecho. Ancla un compromiso a un tiempo específico, a un costo específico, bajo una identidad específica. Una vez anclado, ese compromiso no puede ser silenciosamente editado por quien sea dueño del índice este trimestre. No puede ser degradado a la inexistencia en una actualización de ranking. No puede ser sobrescrito en una actualización del corpus de entrenamiento. El aparato por encima del reloj puede ignorar el compromiso. No puede deshacerlo.
Eso no es una solución a la matriz. La matriz va a seguir indexando, enganchando y pesando, y la mayor parte de lo que suceda en un día dado va a seguir sucediendo dentro de su gradiente. La propiedad estrecha que provee un reloj anclado en costo es la supervivencia de un registro. Una observación que fue hecha, a un tiempo específico, por alguien dispuesto a pagar por el ancla, sigue estando ahí cinco años después — incluso si el índice desde entonces la ha ordenado hacia la página cuarenta, el feed ha dejado de mostrarla, y el próximo modelo ha sido entrenado sobre un corpus que no la incluye. No una señal más fuerte. Una señal que no se evapora.
El libro vuelve, varios capítulos más adelante, a lo que sucede cuando suficientes de esos registros anclados se acumulan en una estructura. Para este capítulo, el reclamo más estrecho alcanza. Bitcoin no es un internet nuevo. Es un lugar al que el internet actual no puede entrar a borrar.
Lo que rechaza la forma
Hay otros sistemas que rechazan la forma de la matriz, y vale la pena nombrarlos junto a Bitcoin.
NOSTR es uno. Notes and Other Stuff Transmitted by Relays — no una plataforma, un protocolo. Un usuario publica notas firmadas por un par de llaves que posee; los relays almacenan y reenvían; otros usuarios leen suscribiéndose a los relays que elijan. No hay un operador único. Ningún feed central que afinar. Ningún modelo de recompensa que reentrenar. Si un relay banea a un usuario, la llave y su historia del usuario se mueven a otro relay sin pedir permiso. El índice es local. El anzuelo está ausente por defecto. El peso es el que el lector elija aplicar.
NOSTR todavía no es grande. La mayoría de sus usuarios viene del mundo Bitcoin, y su contenido es estrecho comparado con el de las plataformas que la mayoría usa. Esa es una observación sobre adopción, no sobre arquitectura. La matriz tiene una ventaja de más de una década y enorme capital detrás. Lo que importa, para los fines de este capítulo, es la forma. La forma rechaza las tres celdas. Un lector que quiera salirse de la matriz por una hora tiene un lugar adonde ir que no se resuelve de vuelta en el mismo aparato bajo otro logo.
El patrón generaliza. Identidad en llaves en lugar de cuentas. Clientes que el lector posee en lugar de los de la plataforma. Índices compuestos en lugar de recibidos. Feeds ordenados por las reglas del lector en lugar de por un modelo de recompensa privado. Estas son primitivas de diseño, no productos. Cualquiera de ellas que se vuelva una plataforma deja de hacer el trabajo. El trabajo está en negarse a volverse el panal.
La matriz corre porque casi todo dentro de ella fue construido por una razón que suena razonable. Rankea porque rankear es útil. Engancha porque el engagement es medible. Pesa porque pesar es necesario para construir un modelo en primer lugar. El aparato no tiene que ser malvado para ser capturable. Tiene que estar concentrado, y lo está.
No leo a las firmas en el centro de esta arquitectura como maliciosas. Las leo como conscientes. Hay una razón por la que el lema don’t be evil recedió silenciosamente en una de las más grandes hace algunos años. No tomo la remoción como una confesión. La tomo como una admisión adulta, de parte de gente que había crecido dentro de una institución cuyo alcance ahora entendía. Cuando un índice, un feed, un corpus de entrenamiento alcanzan la escala a la que el producto es el mundo para la mayoría de los usuarios, la promesa de no ser malvado se vuelve más difícil de cumplir — no porque la gente detrás haya cambiado, sino porque la cosa detrás de la que están se ha vuelto lo bastante grande como para que su mera existencia cree presiones que ninguna decisión individual puede absorber.
Un cuello de botella lo bastante grande eventualmente va a ser aproximado por cada institución que se beneficia de uno. Las fuerzas del orden. Los servicios de inteligencia. Estados extranjeros. Anunciantes. Reguladores. Campañas políticas. Litigantes. Cada uno de ellos pedirá, a través de los canales correctos, que los pesos se inclinen ligeramente hacia su preocupación. Cada pedido sonará razonable por sí mismo. El agregado es un cuello de botella que ya no pertenece a los ingenieros que lo construyeron. La promesa no se volvió falsa. Se volvió estructuralmente imposible de cumplir. El movimiento honesto fue dejar de hacerla.
Por eso la respuesta, en este libro, no es nunca mejores pesos. Los mejores pesos duran exactamente lo que dura el panal contra las instituciones que giran alrededor de él, que es nunca. La respuesta son arquitecturas que no producen un panal en primer lugar — Bitcoin en la capa del dinero, NOSTR y protocolos como él en la capa de publicación, y cualquier otra primitiva que se niegue a concentrar las celdas en una sola superficie sobre la que una institución pueda apoyarse.
El primer paso afuera, si lo hay, no es una herramienta. Es el momento en que notas las celdas.