Hay una máquina que decide, cientos de veces al día, qué merece tu atención. No muestra el mundo: muestra una versión de él, optimizada para que no puedas dejar de mirar. Y sabemos que sus creadores documentaron el daño que causa — y decidieron seguir adelante de todos modos.
En 2021, una exempleada de Facebook filtró decenas de miles de documentos internos. Se llamaban los Facebook Papers. Mostraban algo incómodo: la compañía sabía que sus algoritmos amplificaban la polarización, el odio y la desinformación. Lo medían, lo estudiaban y lo dejaban correr porque el engagement —el tiempo que pasas mirando— era el motor del negocio.
La historia de cómo llegamos aquí tiene hitos precisos. En 2014, un investigador llamado Aleksandr Kogan creó un test de personalidad que recolectó datos de 87 millones de usuarios de Facebook sin su consentimiento explícito. Esos datos alimentaron a Cambridge Analytica, una consultora que construyó perfiles psicológicos para segmentar votantes con mensajes diseñados para cada personalidad individual.
La técnica se llama microsegmentación psicográfica. En lugar de un mensaje masivo para todos, miles de mensajes distintos, cada uno calibrado para explotar los sesgos de un grupo reducido. El escándalo se destapó en 2018 y provocó audiencias en el Congreso de Estados Unidos. Pero para entonces, la infraestructura ya estaba construida y funcionando a escala global.
Aquí está la diferencia crucial que casi nadie explica: un algoritmo de recomendación sugiere contenido. Un algoritmo de manipulación aprende qué contenido te hace reaccionar emocionalmente —y luego te lo sirve en dosis crecientes.
Los documentos internos revelados por Frances Haugen muestran que Facebook detectó que el contenido que genera ira recibe más interacciones que el que genera calma. También detectó que la exposición a contenido extremista empuja a los usuarios hacia posiciones más radicales con el tiempo. Los informes internos lo confirmaron una y otra vez: los daños eran conocidos, medidos y documentados.
La pregunta no es si el algoritmo te muestra lo que quieres ver. Es si te muestra lo que alguien necesita que veas para mantenerte mirando.
El patrón no es nuevo. Cada tecnología de comunicación —la imprenta, la radio, la televisión— fue celebrada como herramienta de liberación antes de ser apropiada como instrumento de control. La diferencia es la escala: nunca antes un sistema había podido conocer tus miedos, tus sesgos y tus deseos mejor que tú mismo.
El jurista Cass Sunstein advirtió desde 2001 sobre las “cámaras de eco”: espacios donde solo circulan ideas que confirman las propias creencias. En su libro Republic.com, argumentó que una democracia sana requiere exposición accidental a perspectivas distintas. Los algoritmos de engagement hacen exactamente lo contrario: eliminan el accidente.
Shoshana Zuboff, en su análisis de la “vigilancia de mercado”, describe una economía donde el producto no es el contenido sino la predicción de tu comportamiento futuro. Sus investigaciones documentan cómo la extracción de datos personales se convirtió en el modelo de negocio dominante. Tu atención no es el producto: es la materia prima. El producto final es tu conducta predecible.
Algunos investigadores sugieren que el poder de estos sistemas es menor de lo que parece. Argumentan que los algoritmos reflejan la sociedad más de lo que la moldean, y que la evidencia de manipulación electoral efectiva sigue siendo limitada. Si esto fuera cierto, el peligro no sería el control sino la fragmentación: no una mente dirigida, sino una audiencia dispersa en burbujas incompatibles.
Otra lectura alternativa indica que el verdadero riesgo no está en lo que el algoritmo muestra, sino en lo que oculta. Lo que nunca aparece en tu feed —las perspectivas que no generan clics, los matices que no provocan reacciones— constituye una forma de censura silenciosa que no necesita prohibir nada.
La próxima vez que deslices el dedo por tu feed, vale la pena preguntarse: ¿cuántas de las cosas que ves hoy fueron elegidas por ti — y cuántas fueron elegidas para ti, por un sistema que aprendió exactamente qué botones presionar?
