Por Diego Luciano Mazzella *
Matrix tenía razón
Hace 25 años se estrenó Matrix, una película icónica en la que el protagonista, Thomas Anderson, interpretado por el talentoso Keanu Reeves, es convocado por un misterioso grupo de rebeldes informáticos que, luego de ofrecerle la opción de continuar viviendo en la realidad fabricada por la Matrix o elegir el camino de la verdad, lo guían hacia la revelación de que vivimos en una simulación computarizada. Esta simulación no es más que un artilugio de las máquinas, quienes tras habernos ganado la pulseada por el dominio del planeta tierra, nos utilizan como baterías biológicas para sostener su propia existencia. Para ello, nos tienen cautivos en un letargo mentalmente activo, donde desarrollamos nuestras vidas en un mundo simulado que esconde la triste realidad de nuestra sumisión.
No es el objetivo de la primera parte de este artículo hacer una reseña de esta película (la cual recomiendo enfáticamente), sino usarla de ejemplo para poner evidencia de que hoy existe una infraestructura tecnológica que, con fines políticos o comerciales, se alimenta a base de las interacciones humanas, el cual denominaremos el dispositivo algorítmico.
Este dispositivo (como conjunto heterogéneo de algoritmos[1] de varias plataformas) recopila, a través de nuestro teléfono, información de todos nuestros movimientos: dónde comemos, qué comemos, en qué horario, a quienes frecuentamos, qué opinamos, etc., y cuanto más nos comunicamos, más eficaz es la recolección de datos. Como bien señala la periodista Marta Peirano, su tecnología está oculta y protegida por criptografía, su funcionamiento es opaco y su origen irrastreable. Los centros de datos que almacenan y procesan la información es la auténtica infraestructura crítica de la internet y del puñado de empresas que monopolizan su uso, por lo que podemos solamente reflexionar sobre su interfaz, pero casi nada sobre su estructura de funcionamiento.
Podríamos decir que este desarrollo del dispositivo algorítmico tuvo tres momentos en lo pertinente a este análisis.
El primero ocurrió con el surgimiento de las primeras redes sociales[2], cuando los algoritmos, además de cumplir funciones básicas como recomendar personas cercanas, seguían una lógica comercial tradicional similar a la publicidad del siglo veinte: vendernos un producto, servir de enlace comprador-vendedor. Sin embargo, la situación escaló a un segundo nivel con el escándalo de Cambridge Analytica, que evidenció el poder de estos algoritmos para influir en la opinión pública y favorecer determinadas opciones electorales. Hasta ese punto, las redes sociales todavía se percibían como espacios de mediación, algo que transcurría en paralelo a la vida real.
Hoy en día, estamos inmersos en una tercera fase, donde la recopilación de datos se ha convertido en un fin en sí mismo. Es decir, los algoritmos de las redes sociales ya no buscan que compremos productos ni que adoptemos determinadas posturas políticas; lo que buscan es mantenernos conectados todo el tiempo a las redes sociales. El objetivo final de esto es motivo de debate.
Un claro ejemplo son las apps de citas. Originalmente creadas para conectar personas en busca de parejas o amistad, han perfeccionado sus algoritmos para que el objetivo no sea ya hacer “match”[3], conocer a alguien y concretar una salida (lo que llevaría a después desinstalar la app), sino pasar la mayor cantidad de tiempo posible en la aplicación, sin conseguir pareja. Este mecanismo perverso se ha comprobado: cuando uno instala la aplicación, esta nos pone al principio a las personas más atractivas y hegemónicas. Luego, nos regala algún que otro match. Después de estos shocks iniciales de dopamina[4] y aprobación, comienza la realidad de la app, que es priorizar a quienes pagan por la versión premium, permitiéndoles un mejor posicionamiento, o a los perfiles estéticamente hegemónicos que generan más interacciones.
Esta manipulación perversa de las expectativas y las necesidades emocionales de la gente suele alimentar problemas de autoestima, por la falsa idea que se genera de no ser deseado, como así también pensamientos autocríticos. Esto se potencia por el fenómeno del FOMO (en inglés: fear of missing out, es decir, miedo a perderse algo), lo cual hace que sigamos deslizando perfiles durante horas, no sea cosa que la persona que iba a aparecer justo después de cerrar la aplicación es el amor de nuestras vidas.
Es decir, la existencia se ha replegado un nivel hacia dentro del teléfono, desde la realidad a lo digital. Esto impacta de lleno en las interacciones reales, las cuales pierden atractivo frente al constante scrolleo en la pantalla. Incluso el acto sexual, que solía estar precedido por el famoso match, ha sido sublimado convirtiendo ese mismo match en el acto sexual en sí.
Estos mismos mecanismos rigen el funcionamiento de las redes sociales en general. El dispositivo algorítmico explota las vulnerabilidades de la psique humana y la química cerebral para que, cada vez más, mediatizamos nuestra vida a través de él. Al sublimar la mayor parte de nuestra energía vital, la convertimos en el combustible que permite al dispositivo continuar e intensificar su existencia, perpetuándose a sí mismo a través de su uso. Como las máquinas en Matrix, el dispositivo algorítmico se mantiene vivo al alimentarse de nuestra atención.
Una de las formas en que se alimenta es incentivando en los usuarios la “anhedonia”, que es la incapacidad de sentir satisfacción por fuera de aquello que nos genera adicción (llámese cigarrillo, el juego, las redes sociales, las drogas, etc). Esto es una vulnerabilidad de naturaleza humana, la cual es muy difícil de superar. Los colores que se usan en las apps, el formato simple, el contenido que el algoritmo de cada app selecciona en base a nuestras preferencias, nos genera un shock químico en el cerebro similar al que experimentaban nuestros ancestros humanos cuando comían grasa o azúcares, elementos escasos en la época en la que se formaron nuestros cerebros. Ejemplos más actuales son el shock que producen las máquinas tragamonedas cuando ganamos, el orgasmo sexual o el placer que siente un fumador al darle la primera pitada a un cigarrillo. Este subidón constante que se produce en el medio digital, con el tiempo, es cada vez más difícil de lograr, por lo cual el mismo cuerpo nos induce a seguir rastreando dentro de la app contenidos que nos alivien esa sed de dopamina. Este proceso puede consumirle a una persona varias horas de su día. Y también de su noche.
Ahora bien, este colapso de la vida real en el teléfono también tiene como consecuencia un repliegue narcisista de la persona hacia su identidad digital, la cual es celosamente custodiada. Por eso es tan común tener una identidad falsa en redes (aunque sea en parte), ya que permite decir cualquier cosa sin pagar las consecuencias. El lado B de esto es que identidades falsas generan una realidad digital falsa: falsas opiniones, falsas reseñas, falsa cantidad de reproducciones de un contenido, falso clima electoral, etc. En teoría, las empresas combaten estas cuentas, pero en el fondo se benefician de ellas, pues amplifican la cantidad de actividad dándole dinamismo al servicio.
En este microclima, desconocemos el contexto en que expresamos cualquier cosa y no disponemos de una manera fiable de saber cómo se le presentará ese contenido a otra persona. La información que damos inconscientemente es utilizada por el dispositivo algorítmico para su beneficio, desconectada de nuestra intención original.
Sería difícil imaginar que algún día las personas, cada vez que toman su celular para entrar a una red social, hagan un ejercicio de conciencia para saber a qué se exponen. La población generalmente pega una mirada rápida al feed de sus redes, por lo que la app aprovecha su capacidad algorítmica para captar nuestra atención intensamente. Los hashtags que utiliza el dispositivo algorítmico apelan generalmente a los contenidos más excitantes para el usuario, y hay programadores que día a día trabajan para perfeccionar este enlace entre el dispositivo digital y la sombra inconsciente del individuo, interpretando sus deseos y también sus intereses más controvertidos, dando la sensación de un consumo seguro a través del propio smartphone, alejado de la vista de los demás. Neuroquímicamente hablando, esto es una experiencia difícil de superar por algo que nos pueda ofrecer la vida realidad cotidiana.
Este mecanismo es aprovechado también por los medios de comunicación, los cuales acomodan su información para ajustarse a los criterios del dispositivo algorítmico, buscando un trato favorable que convierta su contenido en “viral”. De esta forma, el periodismo se somete a las métricas de las redes sociales, degradando el nivel de la discusión pública. Asimismo, vale destacar que estas métricas son –generalmente– falsas, producto de interacciones impulsadas desde cuentas falsas o bots.
Adicionalmente, la manipulación que ejercen ciertos actores beneficiados por el dispositivo puede llevar a generar climas sociales tanto de descontento como de aprobación, mostrándonos sólo contenidos que reflejen uno u otro estado de ánimo en las personas que utilizan la plataforma, generándonos un falso estado de cosas cuando entramos a una red social, por ejemplo, X. Esta coexistencia de distintos mundos privados hace que la comunicación pierda sentido, trastornando nuestra visión de la realidad y desconectándonos del real estado de las cosas.
En este ecosistema manipulado es difícil saber qué información están viendo los demás, ya que el algoritmo personaliza nuestro paisaje de contenidos. No podemos saber en qué medida está generando sesgos y moldeando la forma de ver el mundo de otras personas. En consecuencia, se hace cada vez más difícil entender la postura del otro porque no sabemos lo que el otro ve, es decir, desconocemos el contenido a la carta que el dispositivo algorítmico le genera al otro, lo cual produce una imposibilidad de arribar a un entendimiento.
La consecuencia directa de este fenómeno es que se está destruyendo la empatía entre seres humanos, lo cual es un problema a atender. Esta tendencia a crear “grietas digitales” no hace más que generar compartimentos estancos en la sociedad, donde usuarios de las redes sociales únicamente se vinculan con personas que refuerzan su propia mirada de las cosas, y donde cualquier discusión con otro se plantea en términos de guerra de trincheras. Mi ego se siente reconfortado o amenazado, no hay puntos medios en las redes sociales.
El dispositivo algorítmico ha demostrado una perversidad notable al identificar que cada persona alberga dentro de sí un troll y/o un hater[5]. Este aspecto, que antes se intentaba controlar, se ha convertido en el arquetipo predominante en las redes sociales. Es un defecto de la condición humana que se activa cuando estamos en modo manada, caracterizado por la dicotomía amigo-enemigo. En esta lógica, otros grupos humanos son percibidos como amenazas a eliminar, ya que nuestra identidad digital se siente amenazada durante las discusiones.
El modelo de éxito ahora se define dentro de las redes sociales, lo cual implica la construcción de nuevos valores y estándares de éxito. Un ejemplo cabal son los influencers de finanzas, los cuales se han reproducido por miles en el último tiempo. Estos creadores de contenido (en general jóvenes de menos de 25 años) venden por las redes una vida de lujos y rentabilidades en dólares exorbitantes. No obstante, cuando uno indaga por su modelo de negocios, este resulta ser vender cursos sobre ventas (nada más ensimismante). Es decir, no enseñan a hacer dinero, sino que enseñan a enseñar a hacer dinero vendiendo técnicas de venta.
Esta fiebre por volverse rico, tener un cuerpo fitness, hacer estupideces, o compartir contenido para conseguir likes, en fin, apela a lugares oscuros de nuestro inconsciente que vinculan el ser socialmente valorados como garantía de supervivencia y reproducción, algo así como evitar a toda costa ser el eslabón débil de la manada. Nadie quiere quedarse rezagado. Utilizar las redes sociales es también exponerse a esta valoración, generalmente otorgada por el dispositivo algorítmico mismo, sin responder a otra cosa que a su propio interés existencial. Sin necesidad de pagar ninguna publicidad, el algoritmo favorecerá contenidos estridentes y distractivos de la realidad, llamativos visualmente, o incluso eróticos como cuerpos hegemónicos, dependiendo cuál es el objeto de interés que el dispositivo descifró de cada usuario.
Un peligro para la democracia
Como se dijo más arriba, el efecto exponencial de la acumulación de información lleva a la construcción de sesgos por parte del dispositivo algorítmico, los cuales indefectiblemente terminan permeando la vida pública de las sociedades. Estas condiciones favorecen la proliferación de idiotas e histéricos, que son los que reciben más atención, marcando el tono de las plataformas. Y hoy más que nunca lo que dicen los idiotas tiene eco en el mundo, sino fijémonos en los referentes políticos que han llegado al poder en algunos países.
En este vórtice de irracionalidad y pulsiones, florecen también las teorías conspirativas. Nacidas de la desinformación promovida por las redes sociales, se amplifican y potencian mediante interacciones falsas y, eventualmente, emergen en el mundo real, generando opinión pública. Ejemplos notables de esto son los terraplanistas y los movimientos antivacunas, que cuentan con seguidores activos y fervientes.
Paralelamente, los jóvenes se están alejando cada vez más de las ideas democráticas, y esto parece estar dándose al mismo tiempo que un empeoramiento en el nivel de la información y en la calidad de la discusión política en las redes sociales. El celular se volvió un propagador mental de la violencia política, donde usuarios difíciles de identificar propagan denuncias falsas o frases descontextualizadas para agitar los ánimos de los lectores, sin la necesidad de rendir cuentas por ello. En esta dinámica, los posteos más delirantes y violentos son los que reciben mayor cantidad de interacciones, y los comentarios nacidos de la histeria o de los fantasmas de la sociedad hoy son el contenido que más circula, por lo tanto, todo se ha vuelto más retorcido y perverso, y las expresiones políticas manifiestan ese fenómeno. Como dijo una vez André Malraux (1901-1976): “no es que los pueblos tengan los gobiernos que se merecen, sino que la gente tiene los gobernantes que se le parecen”.
Analizar la performance de un gobierno generalmente requiere una dedicación para la lectura y el análisis de temas que suelen ser muy complejos. Las redes sociales, en cambio, generan un paradigma comunicativo de la inmediatez donde prevalecen los comentarios sonantes y escandalosos en detrimento del análisis.
Aún no se ha investigado en profundidad cómo afectará este fenómeno a las generaciones que han crecido junto al auge de esta tecnología. En los últimos 100 años, el cerebro humano ha sido sometido a una exposición acelerada a cambios en la circulación de la información para los cuales no está completamente preparado. Por lo tanto, no sabemos si los niños que han crecido con TikTok y sus videos breves y adictivos serán capaces de concentrarse para leer una novela en el futuro, pues este ya es un problema para los adultos de hoy, y ni hablar de los textos académicos complejos que requieren prolongada atención y silencio.
En rigor, en su gran mayoría los usuarios de redes sociales desconocen que están alimentando una maquinaria empresarial perversa que se ha apoderado de gran parte de sus vidas. Hoy se usan las redes sociales para todo: para vender, para conocer a alguien, para hablar con amigos, etc. Sin embargo, el costo está siendo demasiado alto ya que se está afectando el funcionamiento de la psiquis humana, empeorado su bienestar, siendo la ansiedad y la depresión consecuencias directas de esta realidad digital. Este desorden está permeando la realidad y generando movimientos políticos y sociales en todo el mundo. Como en Matrix, nos vemos en necesidad de elegir entre la píldora azul, y quedar a merced del esquema del dispositivo algorítmico y sus necesidades; o elegir la píldora roja y desenchufarnos de este mecanismo perverso, sin por eso negar todos los beneficios de la tecnología moderna. Para ahondar en esto, habrá que esperar a la segunda parte de este artículo.
* Diego Luciano Mazzella es politólogo por la Universidad de Buenos Aires. Dirige el Consejo de Jóvenes Profesionales del Instituto Internacional de Derechos Humanos, capítulo Americano, y es miembro del Centro de Estudios para el Desarrollo Integral.
Bibliografía consultada
Lanier, J. (2018). Diez razones para borrar tus redes sociales de inmediato. Ed. Debate.
Han, B.-C. (2022). Infocracia. Ed. Taurus.
Peirano, M. (2019). El enemigo conoce el sistema. Ed. Debate.
[1] En este caso, se llama algoritmo al conjunto de reglas y procesos automatizados que una plataforma utiliza para seleccionar, organizar y priorizar el contenido que se muestra a los usuarios. Estos algoritmos analizan diversos factores, como las interacciones pasadas, los intereses, la relevancia del contenido y el comportamiento del usuario, para determinar qué publicaciones, anuncios o perfiles son más relevantes para cada persona. El objetivo original del algoritmo es personalizar la experiencia del usuario, manteniéndolo comprometido y maximizando su tiempo de uso en la plataforma.
[2] Facebook fue creada en 2004 por Mark Zuckerberg, junto con Eduardo Saverin, Andrew McCollum, Dustin Moskovitz y Chris Hughes. Twitter (hoy X) fue lanzada en 2006 por Jack Dorsey, Noah Glass, Biz Stone y Evan Williams. Instagram fue creada en 2010 por Kevin Systrom y Mike Krieger.
[3] Es una coincidencia de perfiles que han expresado interés mutuo por conocerse.
[4] La dopamina es un neurotransmisor responsable de regular el placer y la motivación. Tiene un impacto directo en el estado de ánimo, el movimiento y las recompensas. Altos niveles de dopamina están asociados con sensaciones de euforia y motivación, mientras que bajos niveles pueden provocar fatiga, depresión y pérdida de interés en actividades.
[5] Un troll es una persona que publica comentarios provocativos o incendiarios en redes sociales para causar disturbio o provocar reacciones. Un hater, por otro lado, es alguien que expresa odio o críticas destructivas hacia otras personas o ideas en línea.
Comments