Del presentimiento al algoritmo: la automatización de la relevancia

García Márquez, el destino de la duda y la automatización de la relevancia.

Hay cuentos que narran un acontecimiento extraordinario. Este narra uno imposible: un pueblo entero destruido sin que ocurra jamás una catástrofe.

Una anciana amanece con un presentimiento. No ha visto señales en el cielo ni escuchado noticia alguna; simplemente siente que algo muy grave va a suceder, y lo comenta durante el desayuno como quien intenta aliviar una inquietud propia. El hijo mayor sale a jugar billar, falla una carambola sencilla y atribuye su distracción a la frase de la madre. Alguien lo escucha. La frase cambia de boca, llega a la carnicería, cruza la plaza. Una mujer compra el doble de carne por si acaso; otros la imitan; la carne se agota. El calor, idéntico al de todos los veranos, empieza a sentirse insoportable. Y aquí ocurre lo que casi nadie recuerda del cuento: alguien lo dice. Una voz protesta que en ese pueblo siempre ha hecho calor. Cuando la multitud se agolpa ante un pájaro que baja a la plaza, otra voz advierte que siempre han bajado pájaros. La duda existe. Está escrita. Y sin embargo no detiene nada. Un vecino carga su carreta y se marcha, los demás leen su partida como la prueba de que el peligro era real, y el pueblo entero huye. Algunos, antes de irse, incendian sus propias casas para que la desgracia no caiga sobre lo que dejan atrás. Solo quedan las llamas y la anciana, que contempla el paisaje desierto y dice, con una serenidad inquietante, que ya lo había advertido.

Suele leerse como una fábula sobre el rumor, una palabra sin fundamento que, repetida lo suficiente, provoca el desastre que anunciaba. Pero esa lectura es demasiado cómoda, porque en el cuento nadie miente. La anciana no afirma haber visto una amenaza; expresa un presentimiento, y lo hace con honestidad. Quienes la repiten no fabrican hechos: la matizan, la traducen, la vuelven suya. Cada personaje, observado por separado, actúa de manera razonable, y aun así el desenlace es una ruina. El incendio no fue la causa de la tragedia, sino su consecuencia. El calor siempre estuvo allí. El pájaro descendía cada tarde. Nada extraordinario ocurrió en el mundo antes de que los habitantes empezaran a actuar como si algo extraordinario estuviera ocurriendo. La pregunta, entonces, no es por qué se propagó una frase, sino por qué la duda, que existió y se pronunció en voz alta, no sirvió de nada. Qué fue lo que vació el pueblo, si nunca pasó nada.

1. El marco

Solemos imaginar la realidad como un conjunto de objetos que existen al margen de nosotros: montañas, ríos, la mesa donde escribo. Pero la mayor parte de lo que organiza nuestra vida no pertenece a esa categoría. Un billete no vale por la tinta con que fue impreso, sino porque millones de personas actúan a la vez como si valiera. Una frontera no puede verse desde el espacio, y sin embargo alguien puede ir a prisión por cruzarla. Un sistema financiero entero puede desmoronarse el día en que la gente deja de confiar en él, sin que haya cambiado un solo billete de lugar. Nada de esto son ilusiones, y ese es justamente el punto: son construcciones colectivas cuya realidad no proviene de la naturaleza, sino del acuerdo que las sostiene, y por eso son capaces de mandar a alguien a la cárcel o de arruinarlo.

Cornelius Castoriadis dio a ese trasfondo un nombre exacto: las significaciones imaginarias sociales. No son fantasías ni mentiras en el sentido corriente, sino los marcos de sentido que permiten a una comunidad responder, sin discutirlo cada mañana, preguntas tan básicas como qué tiene valor, quién posee autoridad, qué merece confianza y qué constituye un peligro. Lo decisivo de su propuesta es que ese orden imaginario no es un reflejo de la realidad ni un error que la razón podría depurar, sino algo constitutivo. No vivimos entre cosas a las que luego añadimos significado; vivimos, desde el inicio, en un mundo ya cargado de sentido. Lo imaginario no se enfrenta a lo real desde afuera, porque es aquello que nos permite habitarlo.

Vista así, la historia del pueblo se ilumina, y con ella el destino de aquella duda. Sus habitantes no huyen de un hecho, huyen de una significación. La frase de la anciana no describe un peligro que exista en el mundo, sino que instituye un peligro que empieza a existir en cuanto es compartido. Una vez instalado el marco, lo demás se reorganiza casi por inercia: el calor de siempre deja de ser el calor de siempre, y el pájaro de todas las tardes se vuelve presagio. Ninguno de esos hechos cambió; cambió el marco desde el cual se los mira. Por eso la voz que protesta que siempre ha hecho calor está condenada de antemano, porque aporta un hecho verdadero dentro de un marco que ya decidió qué significan los hechos. Solemos creer que primero interpretamos el mundo y luego actuamos sobre él, pero el cuento sugiere el orden inverso: primero compartimos un significado, después ese significado organiza nuestras acciones, y por último nuestras acciones modifican el mundo hasta volverlo compatible con la interpretación de la que partimos. El imaginario no reemplaza la realidad, la orienta hasta que la realidad termina dándole la razón. La anciana acierta al final, pero no porque anticipara el futuro, sino porque el pueblo convirtió su presentimiento en un estado de cosas.

No hace falta ir muy lejos para reconocer el mecanismo. Hace apenas unos años, cuando una amenaza sanitaria empezó a nombrarse en todas partes, los estantes de los supermercados se vaciaron de un producto que ningún médico y ninguna autoridad había relacionado jamás con la enfermedad. En muchos lugares el peligro todavía no había llegado, y aun así el desabastecimiento ya era real. Nadie compró por prudencia razonada, porque no había ningún razonamiento que uniera aquel producto con aquel virus. Lo que vació los estantes fue exactamente lo que vació el pueblo: una representación compartida que descendió al mundo antes que cualquier hecho, y que se confirmó a sí misma en el acto de propagarse. Quien llegaba tarde a la góndola vacía no encontraba una superstición, encontraba una escasez concreta, tan real como el hambre del pueblo cuando se acabó la carne.

2. La duda que se pronuncia

Conviene detenerse en esa voz que protesta, porque es el personaje que sostiene todo el cuento y el que casi nunca se comenta. Contra la lectura habitual, según la cual el pueblo se destruyó porque nadie pensó con cabeza fría, el relato dice lo contrario. La crítica aparece, escrita con todas sus letras. Cuando alguien señala el calor sofocante, una voz responde de inmediato que en ese pueblo siempre ha hecho calor. Cuando la multitud se agolpa ante el pájaro, otra advierte que siempre han bajado pájaros a la plaza. El escéptico existe, y alguien, en medio del pánico, dice exactamente lo que la razón exigiría decir.

Karl Popper dedicó su obra a esa figura. Su preocupación no fue defender la verdad como una posesión, sino proteger el proceso mediante el cual una comunidad descubre que se había equivocado. Ninguna creencia merece conservarse por el solo hecho de ser compartida, ni siquiera por muchos, y lo que distingue el conocimiento de la superstición es su exposición permanente a la refutación. Popper resumió esa exigencia en una pregunta que despoja al principio de falsación de toda su solemnidad técnica: qué tendría que ocurrir para que yo aceptara estar equivocado. Es una pregunta incómoda porque no pide defender lo que creemos, sino imaginar las condiciones bajo las cuales lo abandonaríamos.

El escéptico del cuento parece hacer justamente eso. Trae el hecho verificable, siempre ha hecho este calor, al centro de la conversación. Debería bastar, y no basta, y el modo exacto en que no basta es lo más brillante del relato. Observemos el intercambio con cuidado. El escéptico dice que siempre ha hecho calor; no lo refutan con otro hecho, le responden que nunca a esta hora, que no tanto como ahora. El dato correcto no se rechaza, se concede, y en el mismo movimiento se recategoriza como anomalía. El escéptico, que creía discutir si estaba pasando algo, termina discutiendo cuánto está pasando. En el instante en que aceptó hablar de si hoy hace más o menos calor que otros días, ya había perdido, porque esa conversación transcurre entera dentro del marco del presagio. Su objeción no fue silenciada, fue digerida.

La falsación supone que existe un dato capaz de contradecir la creencia, pero un imaginario suficientemente instalado no rechaza la evidencia contraria, sino que la absorbe y la convierte en confirmación.

Esto lleva la intuición de Popper hasta su límite, y creo que la ilumina en lugar de contradecirla. El calor de siempre, que debía falsar el presagio, termina probándolo. La contrastación con la realidad no fracasa por falta del dato, sino porque el marco ya decidió qué significa el dato antes de que el dato hable. En términos que me resultan familiares por oficio, es evidencia que no discrimina entre hipótesis: un hecho que confirma tanto si el presagio es cierto como si es falso carece de poder de falsación, no mueve la creencia en ninguna dirección por más que se lo invoque. El escéptico del pueblo no calló, aportó su dato, pero su dato ya no podía significar nada distinto de lo que el imaginario había decidido que significara.

Queda, por fortuna, una salida, y también está en el cuento. El escéptico no pierde por criticar, pierde por dónde acepta criticar. La objeción que habría funcionado no era que hace calor pero no tanto como para alarmarse, sino negarse a que el calor tuviera algo que ver, salir por completo de la conversación sobre el calor. Falsar no consiste en aportar el dato contrario dentro del marco, consiste en rechazar el marco que decide de antemano qué datos cuentan. Esa distinción, casi imperceptible en el relato, es la que anticipa con una precisión desconcertante nuestro problema con las plataformas, porque el modo más eficaz de neutralizar una crítica no es censurarla, es admitirla como un ángulo más del mismo tema que ya ocupa el centro.

3. La relevancia

Si el cuento fuera solo una historia sobre el miedo, terminaría con las llamas. Pero antes del incendio ocurre algo más silencioso, y para nombrarlo hace falta Guy Debord. Suele presentarse La sociedad del espectáculo como una crítica a la televisión o a la publicidad, una lectura comprensible y pobre. El espectáculo, para Debord, no es un conjunto de imágenes, es una relación social mediada por imágenes. Una sociedad entra en él cuando las personas dejan de vincularse con los acontecimientos y empiezan a vincularse con las representaciones de los acontecimientos, y toda representación selecciona un punto de vista, deja otros afuera, establece jerarquías, decide qué merece ser mirado.

Bajo esa luz, el pueblo de García Márquez ya vivía dentro del espectáculo mucho antes del fuego, y esto explica por qué la duda siempre llegaba tarde. En ningún momento ocurre nada, nadie experimenta una tragedia, todos experimentan la representación de una tragedia futura. La imagen compartida de la catástrofe precede a cualquier catástrofe y termina produciéndola. El escéptico no discutía contra un hecho, discutía contra una representación que ya se había vuelto el aire que todos respiraban. Y hay un gesto final que lo condensa todo: los que huyen incendian sus propias casas para que la desgracia no caiga sobre lo que dejan. Es autodestrucción preventiva. El pueblo no es arrasado por un desastre externo, se arrasa a sí mismo para adelantarse a un desastre que no existe, y lo hace con las manos de quienes creían defenderse de él.

Aquí es donde el relato de los años setenta se anuda con el presente, y donde conviene enunciar la tesis con precisión, porque es el punto al que apuntaba todo lo anterior. Los algoritmos no inventan este mecanismo, que es tan antiguo como la capacidad humana de compartir una significación y organizarse en torno a ella. García Márquez lo describió en un pueblo de unos cientos de habitantes y no necesitó ninguna tecnología para hacerlo. Lo que las arquitecturas digitales aportan no es el mecanismo, sino su industrialización. Y para verla hay que abandonar una idea muy extendida, la de que el problema de los algoritmos es lo que hacen con la información. El problema es otro: los algoritmos no automatizan la información, automatizan la relevancia.

La información nunca fue el recurso escaso; lo escaso siempre fue la atención. Un sistema de recomendación no produce más hechos que la humanidad ni mejores explicaciones del mundo; decide, entre millones de representaciones posibles, cuáles comparecerán ante nosotros y cuáles desaparecerán antes de competir por nuestra mirada.

Ese desplazamiento, de la información a la relevancia, vuelve legibles las tres operaciones que en el cuento ocurrían a mano, despacio y libradas al azar. La primera es la selección: en el pueblo, cada quien elegía qué repetir y a quién, limitado por la voz, la memoria y el número de vecinos al alcance, mientras que los sistemas de recomendación realizan esa elección a escala planetaria y en fracciones de segundo. La segunda es la amplificación: el rumor crecía por contagio interpersonal y perdía fuerza con la distancia, mientras que la amplificación algorítmica es exponencial y sin fricción, y favorece lo que genera reacción con independencia de si es verdadero o importante. La tercera es la estabilización: en el pueblo, cada acto confirmaba la creencia ante los demás, y en la plataforma la visibilidad se retroalimenta con la atención, de modo que lo que se mira mucho se muestra más y lo que se muestra más se mira todavía más, hasta que una representación cualquiera adquiere la solidez aparente de un hecho.

Aquí regresa el escéptico del calor, que era el hilo desde el principio. La estabilización algorítmica hace a escala industrial lo que el diálogo del cuento hacía a mano, porque no necesita silenciar la objeción, le basta con incorporarla. Quien refuta un tema dentro de una plataforma sigue hablando de ese tema, y hablar del tema es lo único que la arquitectura premia. El escéptico que cita para desmentir alimenta la centralidad de aquello que quería desmontar, porque su interacción, aunque sea de rechazo, es una señal más de relevancia. La crítica no se prohíbe, se computa, y una vez computada engrosa la visibilidad del imaginario que pretendía frenar, del mismo modo en que el siempre ha hecho calor del vecino terminaba, contra su voluntad, sosteniendo el presagio. Ese es el destino de la duda en nuestra época, no la censura sino la conversión en combustible.

Conviene medir lo que esto significa donde el mecanismo ha tenido su peso más grave. Hubo lugares, y hubo épocas no tan lejanas, en que bastaba con que se dijera de alguien que era una cosa o la otra para que esa palabra le costara la vida, sin juicio, sin prueba, sin más fundamento que el rumor que la puso a circular. Aquella palabra letal viajaba entonces de boca en boca y su alcance moría con la distancia. Hoy no ha desaparecido, ha cambiado de infraestructura. Una etiqueta que señala a una persona, un vecino, un candidato, un desconocido, ya no depende de quién la repita ni de cuántos la escuchen: un sistema la recoge, mide que genera reacción, y la sirve una y otra vez a quienes ya están predispuestos a creerla. Cada like que recibe le enseña a la máquina que ese contenido funciona, y la máquina responde entregando más de lo mismo, hasta que la etiqueta deja de percibirse como una acusación y se instala como un hecho establecido sobre alguien a quien quien la recibe quizá nunca conoció. En procesos recientes de fuerte polarización, esa maquinaria trabajó a plena capacidad, consolidando sobre personas concretas designaciones que en otro tiempo habrían sido una sentencia. El algoritmo no inventó la etiqueta que condena, la heredó de una historia larga, y le puso un motor.

La cadena completa no tiene entonces nada de misterioso, y por eso mismo inquieta. La visibilidad que otorga el algoritmo produce centralidad, la centralidad consolida el imaginario compartido, el imaginario reorganiza las decisiones individuales de quienes lo habitan, y esas decisiones, simultáneas y sumadas, terminan modificando el estado del mundo. En el pueblo ese ciclo tardó una tarde y afectó a unos cientos de personas. En una plataforma global puede completarse en horas y arrastrar a millones. La diferencia no es de naturaleza sino de velocidad y de escala, pero la velocidad y la escala, cuando son suficientes, cambian cualitativamente lo que una sociedad alcanza a examinar a tiempo. Quien automatiza la relevancia automatiza, indirectamente, la construcción de los imaginarios desde los cuales una comunidad decide qué es real, y a veces desde los cuales decide quién merece vivir en paz.

4. El pueblo nunca desapareció

Al terminar el cuento creemos que el pueblo se consumió en las llamas, pero la escena decisiva es otra, la anciana contemplando el vacío y afirmando, serena, que algo muy grave había ocurrido. Tiene razón, y ya sabemos por qué. No porque anticipara el futuro, sino porque una comunidad convirtió una posibilidad en un mundo. La tragedia nunca esperó detrás de la montaña ni descendió del cielo, fue construida despacio por personas que, sin proponérselo, reorganizaron su conducta en torno a una representación compartida hasta volverla indistinguible de la realidad. Y la duda, que estuvo ahí, que se pronunció, no alcanzó a torcer el desenlace.

García Márquez imaginó ese pueblo pequeño, y el tamaño era esencial, porque permitía que el rumor lo recorriera entero en una tarde. La ironía de nuestro presente es que el pueblo creció hasta no tener bordes. Ya no tiene una plaza, una carnicería y unas calles, sino miles de millones de habitantes conectados por infraestructuras que hacen circular representaciones a una velocidad que ningún boca a boca podría igualar. Su plaza es hoy una red social, su carnicería un flujo interminable de contenidos, su rumor millones de representaciones compitiendo por el centro de nuestra atención. La anciana ya no necesita recorrer las calles anunciando la desgracia, porque basta con que una representación consiga suficiente visibilidad para empezar a reorganizar millones de decisiones.

Sería fácil, y sería falso, cerrar con una advertencia apocalíptica, porque ni el cuento ni la realidad la autorizan. Los mismos mecanismos que pueden vaciar un pueblo pueden coordinar auxilios en un desastre, articular causas justas, sacar del margen un conocimiento que merecía el centro. La capacidad de construir realidades compartidas no es una patología, es la condición misma de la vida en común, aquello que nos permite tener instituciones, lenguajes, proyectos. Castoriadis lo sabía, porque sin imaginarios no habría sociedad, y Popper lo completaba, porque ninguno de ellos debería quedar exento de examen. El problema nunca fue que los seres humanos imaginemos juntos, sino que imaginemos juntos habiendo perdido, quizá, la posibilidad de detenernos a examinar lo imaginado, porque la arquitectura que ordena nuestra atención convierte incluso el examen en una forma más de amplificación. El escéptico sigue hablando, solo que ahora, cada vez que habla, hace más visible aquello que niega.

Por eso el desafío de nuestra época no se agota en combatir la desinformación, un enfoque demasiado estrecho, porque una sociedad perfectamente informada seguiría enfrentando una pregunta anterior, la de quién decide qué parte de la realidad ocupa el centro de la atención colectiva. Esa pregunta no admite una respuesta solo técnica. Es política, es filosófica y es, sobre todo, antropológica, porque habla del modo en que los seres humanos fabricamos el mundo que después nos toca habitar. El algoritmo no rompe con ese modo, prolonga una capacidad tan antigua como la especie, la de vivir dentro de representaciones compartidas, y la amplifica hasta una escala sin precedentes.

La pregunta relevante no es si las máquinas piensan por nosotros, que no lo hacen, ni si nos dicen qué pensar, que rara vez lo intentan. La pregunta, más incómoda porque nos alcanza a todos, es qué representaciones estamos ayudando a convertir en mundo cada vez que, con un gesto mínimo, decidimos mirar una en lugar de otra.

Queda, al final, no una moraleja sino una pregunta, y prefiero dejarla abierta. Si el pueblo se incendió no por creer en un desastre, sino por haber perdido el terreno desde el cual contrastar esa creencia, y si las arquitecturas que hoy ordenan nuestra atención aceleran ese tránsito de la representación compartida a la realidad social, absorbiendo incluso la crítica que podría frenarlas, entonces la anciana tenía un presentimiento. Nosotros tenemos algo más difícil de sacudir, una arquitectura silenciosa que convierte nuestros presentimientos en la agenda de todos, a una velocidad que apenas nos deja tiempo de salir a mirar el horizonte antes de haber cargado ya la carreta.

---

Hermes Bonilla. Analítica de datos, inteligencia artificial y sistemas para el sector público colombiano.