Del panóptico de Bentham a los algoritmos de las redes sociales: la transición del control físico al psicológico y sus implicaciones para la percepción de la realidad.
Durante mi primer año de universidad cursé una asignatura de introducción a la filosofía como algo optativo. Se trataba de un joven de diecisiete años movido por una viva curiosidad por comprender el funcionamiento del mundo; por consiguiente, opté por inscribirme en ella.
Una de las primeras tareas consistió en visionar El show de Truman y establecer conexiones con la alegoría de la caverna de Platón. Al regresar a mi domicilio y contemplar la película, experimenté una imposibilidad real de conciliar el sueño aquella misma noche.
Permítaseme explicar las razones de dicho efecto.
=> Recibir por Whatsapp las noticias destacadas
Platón describió una caverna en la que unos prisioneros permanecían encadenados desde su nacimiento, orientados hacia una pared. Detrás de ellos ardía una fogata. Entre esta y los prisioneros transitaban individuos que portaban diversos objetos, cuyas sombras se proyectaban sobre la pared que los prisioneros tenían frente a sí. Los prisioneros nunca habían tenido acceso a otra realidad.
De este modo, las sombras constituían para ellos la realidad misma. No se trataba de meras «representaciones» de entidades reales, sino de la realidad en su integridad. Nombraban las sombras, estudiaban sus configuraciones y elaboraban sistemas completos de conocimiento a partir de lo que se proyectaba ante ellos.
En determinado momento, uno de los prisioneros es liberado. Sale de la caverna y contempla los objetos reales, la fogata efectiva que genera las sombras y, finalmente, el sol y la hierba en su existencia efectiva. Al regresar para comunicar su experiencia a los demás, estos se niegan a creerle.
¿Cabría esperar otra reacción? Todo cuanto habían conocido hasta entonces les indicaba que las sombras eran lo real.
Platón redactó este pasaje hacia el año 375 a. C. Estaba describiendo, en lo esencial, el año 2026.
El show de Truman se estrenó en 1998. No revelaré su desarrollo argumental por si el lector aún no lo ha visionado. En caso contrario, recomiendo encarecidamente su visionado: la película sumirá al espectador en una profunda perturbación intelectual durante algún tiempo.
No obstante, uno de sus personajes, Christof, formula en cierto instante la siguiente observación:
«Aceptamos la realidad del mundo que se nos presenta».
El control más eficaz es aquel que la persona sometida a él nunca sospecha. No se trata de una jaula visible, sino de una realidad que jamás se cuestiona porque constituye la única que se ha ofrecido.
En este punto resulta pertinente formularse la siguiente interrogante:
¿Quién ha construido la realidad en la que uno se encuentra inmerso en el presente?
En este momento tengo abierto un cuaderno ante mí. Notas adhesivas sobresalen por todos sus ángulos, semejantes a indicios de una investigación criminal. Un bolígrafo reposa sobre ellas.
A mi izquierda se alza una estantería cuyos libros se acumulan hasta el techo.
A mi derecha, una taza negra de diseño sencillo contiene café negro, cuyo vapor asciende y cuyo aroma impregna el espacio.
Esta disposición espacial constituye una realidad física que he configurado deliberadamente con el fin de optimizar mi rendimiento intelectual. En este entorno soy capaz de desarrollar el trabajo que, en otras circunstancias, requeriría el esfuerzo de cinco personas. No se trata de una afirmación pretenciosa, sino de una constatación derivada de la estructura que he establecido y de los efectos que produce.
El entorno físico configura el estado mental. El entorno informacional configura la realidad.
Abordemos, por tanto, la cuestión de quién está configurando el entorno informacional propio.
EL PANÓPTICO
A finales del siglo XVIII, Jeremy Bentham concibió el diseño de una prisión de estructura circular, con celdas dispuestas en el perímetro y una única torre de vigilancia situada en el centro. En principio, un solo guardián podía observar a cualquier prisionero en cualquier instante.
El elemento decisivo residía en que los prisioneros no podían ver el interior de la torre y, por consiguiente, carecían de medios para determinar si en un momento dado eran objeto de observación. Ante esta incertidumbre, asumían que la vigilancia era permanente.
No resulta necesario vigilar efectivamente a los individuos si estos llegan a creer que podrían ser vigilados. En tal caso, se enjaulan a sí mismos y modifican su conducta al haber internalizado la posibilidad de ser observados, anticipando así cualquier requerimiento externo.
Michel Foucault retomó esta construcción en la década de 1970 y la desarrolló hasta convertirla en uno de los marcos conceptuales más influyentes para el análisis del poder moderno: el panopticismo.
La autoridad física había sido sustituida por una autoridad de carácter psicológico. Ya no se requieren muros para enjaular a los sujetos si se logra que sean ellos quienes se enjaulen a sí mismos. El enjaulamiento se internaliza y el guardián pasa a residir en el interior de la conciencia.
Lo que Foucault denominó normalización dinámica describe el proceso subsiguiente. Bajo una vigilancia constante —real o imaginada—, la conducta no solo se modifica: converge. Los individuos abandonan aquellas conductas que podrían percibirse como desviadas y adoptan aquellas que se presentan como normales. La representación de la normalidad se instituye como nueva línea de base y, con el tiempo, los sujetos llegan a identificarla genuinamente con su propia identidad.
Permítaseme señalar un aspecto revelador: la torre de vigilancia continúa existiendo. Se encuentra en el bolsillo de cada usuario.
Los vídeos que se visualizan, el algoritmo específicamente configurado para cada perfil, el contador de visualizaciones, el botón de «me gusta», el número de seguidores y el distintivo de notificaciones constituyen sus mecanismos operativos. Se publica, se espera, se verifica.
El intervalo que media entre la publicación y la verificación representa el mecanismo de enjaulamiento en pleno funcionamiento. El usuario aguarda el veredicto de la torre de vigilancia. Cada vez que este se produce, la publicación siguiente se ajusta ligeramente al juicio anticipado y se aleja, en consecuencia, de la expresión propiamente personal.
El sustrato neurológico de este proceso es el sistema de evaluación social. La corteza cingulada anterior y la corteza prefrontal medial se mantienen en vigilancia permanente de la retroalimentación social, evaluando la amenaza o la aceptación grupal. Estos circuitos evolucionaron en contextos tribales reducidos, donde la exclusión social podía equivaler a la muerte. En la actualidad reciben un flujo continuo de retroalimentación social cuantificada y adaptan la conducta en función de ella.
LO QUE EL ALGORITMO REALIZA EFECTIVAMENTE
El algoritmo persigue un único objetivo operativo: maximizar el tiempo de permanencia en la plataforma.
Este es su único criterio. No le concierne si el usuario se encuentra informado, saludable, conectado o satisfecho. Su interés radica exclusivamente en retener la atención el tiempo suficiente para que la plataforma pueda comercializarla ante los anunciantes.
La estrategia más eficaz para alcanzar dicho objetivo no consiste en ofrecer contenidos veraces, relevantes o estéticamente valiosos. A los responsables de la plataforma no les concierne el bienestar del usuario. Su propósito es generar las respuestas emocionales de mayor intensidad: indignación, temor, validación tribal o sentimiento de superioridad moral.
Estas emociones poseen un origen filogenético antiguo; evolucionaron como mecanismos de supervivencia. Son rápidas, potentes y están específicamente diseñadas para eludir la deliberación racional. En el entorno ancestral, una señal de miedo o indignación exigía una respuesta inmediata; no existía margen para la reflexión pausada porque la amenaza era efectiva.
El algoritmo ha orientado estos circuitos hacia un suministro ininterrumpido de contenidos fabricados y los ha mantenido en funcionamiento continuo.
Cada vez que un usuario experimenta indignación ante un contenido en línea, interactúa: comenta, comparte o discute. La plataforma interpreta dicha interacción como una señal positiva y refuerza la exposición al mismo tipo de contenido.
El estado emocional del usuario se convierte, así, en el producto sometido a optimización.
Durante los años 2020 y 2021 (años del la fabricada epidemia del COVID-19), observé en mí mismo los efectos de un consumo descontrolado de contenidos en plataformas de vídeo de formato breve. Comencé a reproducir en conversaciones expresiones literales extraídas de dichos contenidos, presentándolas como observaciones propias. No se trataba de paráfrasis, sino de apropiaciones directas.
Había dejado de distinguir con claridad entre lo que pensaba y lo que se me había suministrado. El fenómeno me produjo una intensa inquietud.
Quienes me rodeaban consideraban que tal situación era normal.
No lo es.
Se trata del resultado previsible del diseño algorítmico.
El algoritmo construye la entrada informativa que genera la creencia que, a su vez, el sujeto reconoce como su propia opinión.
DE LA DOMINACIÓN FÍSICA A LA DOMINACIÓN PSICOLÓGICA
A lo largo de la historia, los procedimientos de control más duraderos sobre las poblaciones nunca han sido exclusivamente físicos. El control físico presenta límites inherentes: exige el ejercicio continuo de la fuerza y genera resentimiento, creando así las condiciones que eventualmente propician la revuelta.
Toda revolución de envergadura ha seguido una secuencia idéntica: una población alcanza el punto en que prefiere asumir cualquier riesgo antes que perpetuar sus condiciones de existencia. Esa disposición al riesgo y esa ignición colectiva de la voluntad constituyen el motor de los procesos revolucionarios.
Lo que las instancias de poder han comprendido tras siglos de observación de tales procesos es que el control más eficaz no genera las condiciones para la revuelta, sino que hace impensable la propia posibilidad de la revuelta.
Si se logra determinar lo que los individuos creen acerca del mundo, se determina en gran medida lo que consideran posible, lo que juzgan digno de ser defendido y si consideran que la defensa misma resulta viable.
En 1967, el filósofo francés Guy Debord analizó este fenómeno bajo la denominación de sociedad del espectáculo. La vida social auténtica es sustituida por su representación. En lugar de experimentar directamente los acontecimientos, los sujetos contemplan representaciones de ellos. Mediante esta sustitución, la contemplación pasiva reemplaza a la participación activa.
En lugar de asistir a una manifestación, se comparte una publicación sobre ella.
Conviene reflexionar seriamente sobre esta sustitución. ¿Qué efecto produce, en términos prácticos, la publicación de un contenido en una historia personal? Salvo que se posea una audiencia de millones de seguidores y una influencia efectiva, la acción de publicar desde la comodidad del domicilio sobre un conflicto distante con el fin de «difundir conciencia» posee un alcance muy limitado.
He sostenido siempre que las acciones poseen mayor peso que las declaraciones verbales. Desplazarse para realizar una donación, ofrecerse como voluntario o destinar el producto de un turno de trabajo extraordinario a una causa concreta son intervenciones que generan efectos tangibles.
En cambio, la interacción mediante pulsaciones en plataformas digitales resulta sencilla y permite manifestar una preocupación sin que esta exija compromiso alguno. La energía que podría destinarse a la acción se descarga a través de la interacción misma. La plataforma obtiene beneficio de dicha descarga y el usuario puede conciliar el sueño con la sensación de haber actuado.
LA INCAPACIDAD DEL CEREBRO PARA DISTINGUIR ENTRE EXPERIENCIA REAL E IMAGINADA
En este punto el análisis adquiere una dimensión particularmente desconcertante.
Los ojos y el cerebro no funcionan como una cámara que registre de manera pasiva lo que se encuentra ante ellos. El cerebro construye activamente la experiencia visual.
Aproximadamente el diez por ciento de la información procesada por la corteza visual procede de los órganos sensoriales; el noventa por ciento restante se genera internamente a partir de predicciones, expectativas, experiencias previas y memoria. El cerebro elabora de forma continua un modelo de lo que espera percibir y lo actualiza cuando la información sensorial no coincide con dicho modelo.
Lo que se experimenta como percepción visual consiste, en lo fundamental, en la predicción cerebral cuyos contornos son corregidos por los datos sensoriales efectivos.
La percepción, por tanto, no constituye una recepción pasiva, sino una construcción activa.
La consecuencia que aquí interesa subrayar es la siguiente: el cerebro no posee una capacidad fiable para distinguir entre una experiencia imaginada con viveza y una experiencia efectivamente vivida.
Los estudios de neuroimagen demuestran de manera consistente que la imaginación de un estímulo activa los mismos patrones neuronales que su vivencia efectiva: las mismas cortezas sensoriales, las mismas regiones implicadas en el procesamiento emocional y las mismas vías de consolidación mnésica.
Cuando el cerebro es expuesto de manera reiterada a contenidos que representan el mundo como un espacio peligroso, fragmentado y hostil, comienza a construir ese modelo como su jaula de realidad, dado que la información recibida resulta suficientemente coherente para actualizar el sistema de predicción. El sujeto queda así enjaulado dentro de la representación que el flujo algorítmico ha impuesto.
Al salir al espacio exterior, la percepción del mundo se encuentra filtrada por el modelo previamente construido por el feed. El sujeto comienza a ver el mundo conforme a lo que la entrada informacional curada por el algoritmo le ha inducido a esperar.
Los prisioneros de la caverna platónica no carecían de inteligencia; simplemente operaban con la única información disponible. La cuestión relevante es si se ha sometido a examen crítico la información con la que uno opera.
EL PROBLEMA DEL 2 + 2 = 5
Considérese el caso de un individuo educado desde su nacimiento en la creencia de que 2 + 2 = 5. Todos los manuales lo afirman, todos los docentes lo confirman, todas las conversaciones lo reiteran y todo el entorno mediático lo valida. El conjunto del ambiente social e informacional resulta coherente con dicha proposición.
Ese individuo no se limita a creer que 2 + 2 = 5; lo experimenta como una verdad evidente por sí misma, del mismo orden que la afirmación de que el cielo es azul. Ambas se presentan como igualmente incuestionables.
Si se intenta persuadirlo de que 2 + 2 = 4, su reacción no será de curiosidad intelectual, sino de defensividad, pues la creencia se ha integrado en su modelo de realidad y su cuestionamiento amenaza la integridad de dicho modelo.
Cuestionar esa creencia exigiría cuestionar simultáneamente todo el entramado que la ha sostenido, operación que resulta excesivamente costosa desde el punto de vista cognitivo y emocional.
En este contexto, resulta pertinente interrogarse sobre el origen de las propias creencias respecto al mundo, a lo posible, a lo normal, a la identificación de los agentes legítimos y a la determinación de lo que merece ser objeto de preocupación. ¿Cuántas de ellas derivan de una indagación independiente y rigurosa? ¿Cuántas han sido configuradas por un entorno informacional no elegido, diseñado por sistemas cuya finalidad es generar creencias específicas en beneficio de intereses comerciales ajenos?
El algoritmo ha operado durante años mediante susurros persistentes. Lo más inquietante no reside en el contenido de tales susurros, sino en que el sujeto probablemente ya no los percibe como externos: han dejado de distinguirse de sus propios pensamientos.
CONSIDERACIONES FINALES SOBRE LA ACTITUD CRÍTICA
No se propone aquí la supresión total de las plataformas digitales. El objetivo central es la conciencia crítica.
Cuando se comprende que el flujo de contenidos constituye una proyección deliberadamente configurada para generar estados emocionales específicos, se modifica la relación que se establece con dicho flujo. La indignación experimentada es genuina y pertenece al sujeto; sin embargo, el contenido que la ha provocado ha sido seleccionado precisamente por su capacidad de producirla. Conviene preguntarse, por tanto, qué uso se hace de dicha emoción y quién obtiene beneficio de ella.
La validación tribal es igualmente real, pero un sistema que solo ofrece contenidos concordantes con la visión preexistente del usuario le proporciona un espejo y no un acceso a la complejidad del mundo. El sujeto queda enjaulado en cámaras de eco.
Resulta necesario, por tanto, buscar activamente contenidos que cuestionen las propias posiciones y esforzarse por comprender los argumentos contrarios antes de proceder a su descalificación. El algoritmo no ofrecerá tales contenidos de manera espontánea; su localización exige una iniciativa deliberada.
Fundamentalmente, conviene formar las propias opiniones antes de conocer la opinión predominante en el entorno. La calidad del pensamiento depende, en medida considerable, de si el sujeto se encuentra primero con su propia reflexión o con las reflexiones ajenas.
Los prisioneros de la caverna de Platón consideraban que quien había regresado de la contemplación del sol había perdido el juicio. Permanecían enjaulados entre las sombras. La luz solar resultaba dolorosa. Sin embargo, era real.
La cuestión que se plantea es si existe disposición a indagar qué hay más allá de la caverna en la que se permanece enjaulado. La mayoría de los individuos no la posee. Por esa razón, la mayoría continúa orientada hacia la pared.
Ronald Palacios Castrillo,M.D.,PhD.