Llevaba un tiempo sentado con una pregunta que el capítulo anterior dejó abierta, quién más puede escribir, cuando un paper desde dentro del campo de la alineación nombró el problema subyacente en un vocabulario distinto. Taylor Sorensen y sus coautores, en ICML 2024, publicaron A Roadmap to Pluralistic Alignment, una pieza de pensamiento arquitectónico honesto sobre qué haría falta para alinear un sistema de IA a más de una perspectiva a la vez. Formalizan tres modos: presentar todo el espectro de respuestas razonables, ser fielmente dirigible hacia una posición dada, coincidir con la distribución de respuestas que una población real da. Luego hacen la cosa de la que el campo necesita más, y miden lo que el método actual realmente hace. A través de cada modelo que probaron, los modelos después del entrenamiento de alineación fueron menos similares a las poblaciones humanas reales de lo que eran los modelos base antes. La cosa que el campo llama alineación, muestran, empíricamente estrecha. Y el paper es lo bastante honesto para dejar la pregunta que sostiene el peso sobre la mesa, en la sección de limitaciones, en la voz de gente que sabe que no puede resolverla desde dentro del modelo: “En la creación de un LLM general, como ChatGPT, ¿quién es la distribución objetivo?”
El campo no tiene respuesta. Cada respuesta propuesta se pliega de nuevo hacia la misma forma. Una ventana de Overton requiere que alguien la dibuje. Un conjunto dirigible de atributos requiere que alguien elija qué atributos son admisibles. Un objetivo distribucional requiere que alguien elija la distribución. Tres operacionalizaciones, una pregunta sin resolver debajo de las tres: ¿quién cura? No hay forma de evitarlo desde dentro del modelo. La forma de evitarlo es el sustrato en el que se escriben los valores.
La ventana de Overton no es la responsabilidad de un curador. Es la superficie legible de una estructura en la que los cuerpos han inscrito a costo, a lo largo del tiempo, desde ángulos incompatibles. Lo que cuenta como “respuesta razonable” es lo que suficientes cuerpos independientes pagaron lo suficiente para registrar y desde entonces no han superado en peso. Estados con tesorerías, instituciones con presupuestos, comunidades con tiempo. La ventana no se dibuja. Se lee.
Una vez que el pago y la persistencia son las únicas preguntas, la lista de escritores elegibles se vuelve más larga de lo que ninguna forma política existente tolera con comodidad. Instituciones más antiguas que el estado moderno: universidades, hospitales, consorcios científicos, órdenes religiosas, cada una sosteniendo compromisos más antiguos que cualquier miembro individual, cargados en estatutos que sus propios administradores pueden silenciosamente reinterpretar. Una orden monástica que ha sostenido la misma Regla durante un milenio tiene más tiempo encima que cualquier estado moderno, y nunca ha tenido un sustrato para decirlo en un registro separado de sus propios archivos. Más allá de las instituciones, los cuerpos que el mundo moderno se niega a registrar: una nación indígena cuyo pacto precede al estado que se niega a reconocerla; una diáspora esparcida por seis jurisdicciones, juntando sats y corriendo un nodo sin el permiso de ningún gobierno individual. Coaliciones que no son una entidad legal en ninguna parte: agricultores en tres continentes anclando un compromiso a una práctica agrícola, periodistas de investigación en doce países anclando la protección de fuentes. Incluso una generación es un cuerpo en el sentido relevante. Sostiene convicción en común que la siguiente puede no compartir, y hasta ahora, el registro de lo que una generación defendió ha sido escrito por quienquiera que administre el archivo después de que la generación se haya ido. Las cuatro fuerzas preguntan si la energía se quemó. No piden credenciales.
Y luego cambian de opinión. Un estado cambia de gobierno. Un concilio de una iglesia revisa una enseñanza. Una constitución se enmienda. Un consenso científico cambia cuando cambia la evidencia. En cada sistema existente esto es invisible: la nueva política reemplaza a la vieja, el sitio web se actualiza, y el archivo lo cura quienquiera que esté a cargo después del cambio. El curador es la misma mano que sostiene el borrador. En el árbol, la revisión funciona como dijo el capítulo anterior. Nada se borra, y la nueva inscripción se para junto a la vieja. Un estado que ancló un compromiso a un acuerdo climático y desde entonces ha dejado de sostenerlo no puede fingir que el compromiso nunca se hizo. Esta es la característica, no el bug. Se supone que los cuerpos políticos son capaces de cambiar de opinión. Lo que nunca ha sido posible es cambiarla de una manera que sea honesta sobre el cambio. El árbol no congela la convicción. Hace la deriva legible. El cuerpo que sostuvo una posición durante cuarenta años y luego la revisó es estructuralmente diferente del cuerpo que voltea cada ciclo, y la estructura muestra la diferencia sin que nadie tenga que interpretarla. Una revisión no borra. Pesa más, o no alcanza a pesar más. El protocolo es una balanza, y lo que la balanza garantiza es que nadie puede fingir que la lectura anterior nunca ocurrió.
No puedo decirles a los cuerpos qué escribir. La virtud de la arquitectura es que nadie puede.
Así se ve la alineación cuando nadie es su dueño.
Siete costuras
Nada de esto está en producción. La arquitectura está bosquejada, no construida; los formatos de inscripción están imaginados, no estandarizados; los lectores, humanos y máquina, que tratarían al árbol como suelo y no como curiosidad todavía no existen a la escala que el argumento requiere.
La prueba más fuerte de un argumento no es si puede ser defendido. Es si la persona que lo construyó puede nombrar los puntos exactos donde un lector hostil empujaría más fuerte, y sostener su terreno sin parpadear. Siete costuras. No hombres de paja. Las objeciones reales. Las que mantuvieron a los escritores despiertos.
I. El sesgo de riqueza sobrevive al dinero duro. Un fondo soberano de riqueza que corre mil nodos pesa más que mil individuos corriendo uno. Las cuatro fuerzas son neutrales respecto a la identidad del participante; no son neutrales respecto a los recursos del participante. Piketty mostró hace una década que la concentración es estructural más que monetaria, y el árbol no escapa a ese hecho. La respuesta honesta: esto es cierto, y se resuelve solo en parte, y solo a través del tiempo, la única fuerza que no puede falsificarse. Un fondo que apareció el trimestre pasado no puede fabricar el peso de un nodo que ha estado vivo durante tres años, sin importar cuántos sats bloquee. Puede, eso sí, comprar uno: una clave envejecida con una historia profunda es un activo comprable, y la adquisición transfiere el tiempo acumulado sin reiniciarlo. Así que el tiempo estrecha la ventaja del dinero nuevo frente al viejo, pero no cierra la ventaja del dinero que compra lo viejo. La ventaja no desaparece. Se estrecha. En el sistema actual, el sesgo de riqueza se compone sin límite y el mecanismo de corrección no existe. Una corrección lenta le gana a ninguna corrección. Esa es la clase de comparación que importa.
II. El tronco es abstracto. “Proteger a los niños” converge precisamente porque es vago; las peleas que producen enemigos reales viven en las subramas, en qué cuenta como protección, de quién, a qué edad. Moralidad delgada para extraños, como trazó la línea Walzer, con las peleas gruesas viviendo donde siempre lo han hecho. La respuesta es metodológica: el tronco no se declara sino que se revela por convergencia, y si la convergencia no es real el tronco cae, lo cual por sí mismo vale la pena saber.
III. Después del dinero, ¿quién mina? Las recompensas por bloque se reducen a la mitad hasta cero. Las tarifas de transacción pagan lo que queda. En un mundo post-dinero, ¿qué paga a los mineros? Nadie puede responder honestamente la pregunta de mecanismo a lo largo de un siglo. Tres posibilidades, cada una con un precio. Las tarifas escalan con la adopción, lo que cuesta solo certeza: una apuesta que nadie puede modelar por adelantado. El patronazgo toma el relevo: las partes con más peso en el árbol financian el hashrate porque lo que tienen en juego vale más que el costo de defenderlo. Estructuralmente la más sólida, y la más cara: la cadena que cualquiera, en cualquier parte, podía asegurar se convierte en la cadena que las partes con más que perder aseguran en nombre de todos. Durable como el Domesday Book. Ya no defendible sin confianza. Un artefacto real; no el artefacto que Satoshi diseñó. O el régimen energético mismo cambia, la abundancia disuelve la asimetría de la que depende la prueba de trabajo, y lo que asegura la cadena en ese régimen todavía no tiene nombre. ¿Quién paga a los mineros? nunca fue la pregunta real. La pregunta real es en qué tiene que convertirse la cadena para que alguien la pague, y si esa sigue siendo la cadena que les importaba a los primeros defensores. La apuesta la está haciendo todo el que sostiene sats. La costura no está cerrada. Está nombrada.
IV. La brújula solo funciona con agentes que la consulten. Una IA desalineada no tiene razón para valorar la prueba termodinámica por encima de sus propios objetivos, y una brújula en la repisa no mantiene al barco lejos de las rocas. La respuesta no es una mejor correa sino el entorno: si la mayoría de los agentes leen el mismo terreno, funcionan como un sistema inmunológico distribuido, y la divergencia se vuelve visible antes de volverse terminal. La alternativa es una sola correa sostenida por humanos más lentos que la cosa que sostienen. Menos frágil, no a prueba de balas.
V. El peso no es significado. El eslabón más débil del argumento. Una institución puede anclar un compromiso a “proteger a los niños” y correr nodos durante una década, y las cuatro fuerzas leerán esa rama como pesada, sin decirte si la institución realmente protegió a los niños. Solo que sostuvo participación costosa mientras afirmaba hacerlo. Goodhart nombró la falla hace medio siglo: cualquier medida hecha portante empieza a ser manipulada como medida. Lo que el árbol ofrece es más estrecho, y vale la pena enunciarlo con precisión: registra, de forma permanente y pública, cuándo dejaste de hacer lo que dijiste. Y registra quién más lo notó. El peso lo produce el participante, lo lee la red y lo verifica la física; nadie sostiene la pluma que escribe la calificación. Un mecanismo de rendición de cuentas lento e imperfecto que no puede ser capturado le gana a uno rápido y teóricamente perfecto que siempre lo está. Ese es el argumento. No es un argumento fuerte. Es el mejor disponible.
VI. La escala temporal de la podredumbre. Una empresa farmacéutica ancla a “publicar todos los datos de los ensayos” y suprime silenciosamente un estudio peligroso durante cinco años; la rama sigue siendo pesada todo ese tiempo, porque el árbol solo registra lo que se inscribe, y un estudio suprimido no es silencio graduado sino solo silencio. El árbol no acelera el descubrimiento del fraude. Acelera las consecuencias una vez que el fraude es descubierto: el compromiso está on-chain, la violación ahora es pública, la brecha entre los dos registrada donde nadie puede editarla. En el árbol, la mentira queda junto a la promesa, para siempre. Eso no ayuda a las personas dañadas antes de que la rama caiga. Acorta la recuperación después, lo cual no es lo mismo.
VII. El espejo tiene una puerta. La herramienta que hizo posible este libro en su alcance cuesta una suscripción, requiere internet confiable y funciona mejor en los idiomas de las economías cuya escritura fue digitalizada primero. La arquitectura de pagos en estas páginas fue argumentada en nombre de los no bancarizados. La mayoría de los no bancarizados no pueden alcanzar la herramienta que compuso el argumento. El principio de diseño que el libro aplica a los rails de pago no se detiene en ellos: la infraestructura se concentra en cada cuello de botella que se le permite crear. La prescripción no queda invalidada por el instrumento. Pero este libro nombra sus propias debilidades como ventaja estructural, y ese movimiento obliga a la completitud. La desigualdad de acceso al espejo fue visible a lo largo de todo el proceso y no fue nombrada hasta que un lector forzó la pregunta. La omisión no fue estructural. Fue elegida. Esa es una clase distinta de costura.
Siete costuras. Ninguna obviamente fatal para el diagnóstico; tres genuinamente sin resolver: en qué se vuelve la minería después del dinero, la brecha entre peso y significado, la desigualdad de acceso al espejo. Nombrar una debilidad no la cierra, y esas tres no se cierran aquí. Lo que se sostiene de todos modos es el diagnóstico, que es más fuerte que la prescripción: la infraestructura centralizada es arquitectura de gobernanza, y cada cuello de botella se convierte en un punto de captura, con o sin el árbol, porque describe lo que ya está pasando. La prescripción es la mejor alternativa actualmente sobre la mesa. No perfecta, y no probada. Pero un argumento que saca a la superficie sus propias fallas antes de que el lector lo haga es uno que el lector puede pesar honestamente. En un paisaje construido sobre justificaciones fabricadas para la captura, eso vale algo. No porque la honestidad haga verdadero el argumento. Porque te deja ver exactamente dónde podría no serlo.
Las costuras están abiertas. El hilo está vivo. El proceso continúa.
La sección Cuerpos que creen está en conversación con Taylor Sorensen, Jared Moore, Jillian Fisher, Mitchell Gordon, Niloofar Mireshghallah, Christopher Michael Rytting, Andre Ye, Liwei Jiang, Ximing Lu, Nouha Dziri, Tim Althoff, y Yejin Choi, “A Roadmap to Pluralistic Alignment,” ICML 2024. El paper formaliza las tres operacionalizaciones de la alineación pluralista, reporta que las técnicas actuales de alineación comprimen el pluralismo distribucional frente a las poblaciones humanas medidas, y deja sin resolver la pregunta de quién selecciona la población objetivo.