Con sus innovadores semáforos inteligentes, detectores de contaminación altamente calibrados y atractivo aspecto futurista, la smart city solo reveló su verdadero carácter cuando ya era demasiado tarde.
En un día de agosto de 2019, los habitantes de Hong Kong finalmente comprendieron el verdadero propósito de las cámaras térmicas, los detectores bluetooth, los sensores de estacionamiento y los puntos de acceso wifi. Entonces, comenzaron a envolver sus documentos de identidad en papel de aluminio, a quitar las baterías de sus teléfonos y a engañar a las cámaras con punteros láser.
La resistencia de Hong Kong contra la gradual toma de poder por parte del Partido Comunista chino ha sido documentada en múltiples imágenes icónicas. Una de ellas muestra a un manifestante usando una sierra eléctrica para atacar una de las nuevas «farolas inteligentes» instaladas por la administración municipal. La imagen se inicia con una lluvia de chispas y luego otros manifestantes rodean el poste con una cuerda para finalmente derribarlo entre los gritos de victoria de la multitud. Un triste destino para un artefacto que se suponía debía hacer a los ciudadanos «más felices, más saludables, más inteligentes y más prósperos», como se puede leer en el Plan de Smart City publicado por la administración de Hong Kong en 2017. Sin embargo, este giro en Hong Kong podría tener algo importante que enseñarnos sobre la verdadera naturaleza de nuestra era.
La crisis del COVID-19 no se asemeja tanto a una revolución como a una revelación: ha puesto de manifiesto y acelerado tendencias que ya se estaban manifestando a nivel mundial, pero que todavía no eran perceptibles. Aunque venía desarrollándose desde hace algún tiempo, el ascenso de China como una verdadera potencia adversaria, portadora de una alternativa global a la democracia liberal occidental, se hizo evidente.
Durante la crisis sanitaria, la batalla por el relato entre Estados Unidos y China alcanzó proporciones sin precedentes. No se trataba solo de «contar correctamente la versión de China», como deseaba el presidente Xi Jinping, a través de la red mundial de medios de comunicación oficiales financiados por el Partido, sino también de retomar las tácticas de guerra de la información utilizadas por el régimen de Vladímir Putin, como la difusión de noticias falsas y teorías conspirativas en las redes sociales.
Del lado estadounidense, tras los comentarios provocadores de Donald Trump sobre el «virus chino», Joe Biden adoptó la lógica de la confrontación total, como se evidenció en su discurso ante el Congreso el 28 de abril de 2021. Prefigurando un enfrentamiento histórico entre la democracia y la autocracia, el presidente de Estados Unidos convocó a una «cumbre de la democracia» para unir a los países que se oponen al desafío de los regímenes autoritarios. En resumen, Estados Unidos contra China. «Los demás países, como Rusia y Europa, son los vegetales», para citar al general Charles de Gaulle.
El secreto de la era digital
Sin embargo, el estilo de vida tecnológico de Hong Kong y las herramientas benevolentes de la smart city global, que se convierten en instrumentos represivos, dan cuenta de una historia más compleja. Esto no es un caso aislado ni mucho menos: la duplicidad que define estas infraestructuras urbanas se encuentra en todas las tecnologías digitales. Hasta ahora, estábamos acostumbrados a que la función real de las herramientas coincidiera con su función aparente: un martillo sirve para clavar clavos, un reloj para mostrar la hora, una aspiradora para limpiar el polvo. Sin embargo, las herramientas digitales, que se han vuelto indispensables en nuestras vidas, están cambiando esta dinámica.
La verdadera función de Google no es buscar información en internet, la verdadera función de Facebook no es permitir que los amigos se mantengan en contacto, y la verdadera función de Tinder no es ayudar a los solteros a divertirse. En realidad, la verdadera función de estas miles de herramientas en las que cada vez dependemos más es recolectar datos para monetizarlos, registrando así nuestros comportamientos y preferencias en línea.
A medida que pasa el tiempo, esta duplicidad se apodera de nuevos ámbitos y transforma incluso herramientas antes inocentes. En el mundo del internet de las cosas, la verdadera función de una aspiradora ya no es solo limpiar, sino también recopilar datos sobre nuestro hogar. Del mismo modo, el valor real de una cama o un automóvil se define principalmente por su conocimiento de nuestros hábitos, más que por su uso tradicional.
Aunque estos hechos son ampliamente documentados y objeto de denuncia, no parecen despertar gran preocupación entre los usuarios. Y lo que es aún peor, cuando se produce una reacción, esa angustia se dirige hacia herramientas que supuestamente desempeñan una función contraria. Por ejemplo, las recientes protestas contra los pases sanitarios en Europa se organizan en redes sociales que Mark Zuckerberg pretende utilizar para crear un metaverso.
Las encuestas muestran que la mayoría de las personas son relativamente indiferentes a ser vigiladas y al uso de sus datos personales. Esto no se debe tanto a la ignorancia sobre el fenómeno y sus mecanismos, sino a otra razón aún más determinante: la comodidad. El entorno cómodo que ofrecen las nuevas herramientas digitales es el bien supremo por el cual la privacidad parece ser un sacrificio insignificante. La fluidez, el placer garantizado de una vida sin obstáculos en la que nos deslizamos como patinadores sobre hielo, y la guía de algoritmos que suavizan los problemas y nos muestran el camino, son la gran promesa de la vida digital. Esta es la razón por la cual su influencia es tan poderosa y resiste cualquier crítica, como bien explicó el filósofo Mark Hunyadi: «En el sentido más amplio, el motor de la expansión digital es fundamentalmente libidinal: se mueve hacia el deseo, apunta al deleite, proporciona placer». Hasta ahora, este fenómeno ha demostrado ser lo suficientemente poderoso como para eclipsar cualquier reserva sobre la profunda ambigüedad y duplicidad de las herramientas digitales, tanto en París como en Tokio, Toronto, Sydney y Hong Kong.
Aunque en los últimos años se ha revelado con mayor claridad el modelo autoritario chino, como la vigilancia masiva sobre la población, el sistema de crédito social y los campos de internamiento, el éxito de China no se basa en la represión. Más bien, se trata del principio del capitalismo libidinal, como lo han descrito dos expertos en redes sociales de manera metafórica como «la lógica del gran centro comercial»: transformar los espacios públicos, tanto físicos como virtuales, en lugares que brindan una sensación de seguridad, oportunidades de reunión y diversión, y una ilusión de elección estrictamente limitada por la autoridad.
En el centro de la «nueva Guerra Fría»
Este es el verdadero dilema histórico que enfrentamos cuando se plantea el espectro de un nuevo conflicto ideológico mundial.
En la Guerra Fría, se enfrentaron dos concepciones radicalmente antagónicas de la naturaleza humana. El «hombre nuevo» comunista debía adoptar valores, creencias, cultura e incluso un lenguaje radicalmente diferentes a los anteriores a la Revolución. Debía convertirse en un devoto constructor del comunismo, leal al régimen y convencido internacionalista de los ideales marxistas-leninistas. Según la famosa tesis de Nicolái Bujarin de 1922, la verdadera tarea de la Revolución era «transformar la psique humana». Hoy, en cambio, el atractivo de China comunista se basa en una visión del ser humano y la sociedad notablemente similar a la que se ha establecido en Occidente gracias al desarrollo de las nuevas tecnologías. Esta visión surge de lo que Peter Sloterdijk llama «la humillación del comportamiento humano», que se deriva de la observación de que nuestra existencia se compone, en un 99,9%, de repeticiones, la mayoría de ellas de carácter estrictamente mecánico.
Por lo tanto, la pregunta planteada es la siguiente: supongamos que la pandemia ha revelado claramente al verdadero antagonista de la democracia liberal, personificado ahora en la República Popular China. Entonces, ¿cuál es el núcleo del actual conflicto ideológico entre Occidente y China?
Si, tal como sostiene el experto en sinología Jean-François Billeter, China se caracteriza principalmente por su concepción del poder y cómo lo ejerce, cuya misión es ejercer un control total sobre las relaciones sociales y la vida de sus ciudadanos con el objetivo de crear una sociedad «armoniosa», la particularidad de la etapa actual reside en la sorprendente convergencia de esta tradición política con el funcionamiento de la máquina algorítmica que está prevaleciendo a nivel mundial gracias a internet y al avance de la inteligencia artificial (IA). En ambos casos, se implementa un sólido sistema de incentivos y desincentivos con el fin de ajustar el comportamiento de los individuos a un conjunto social cuyo desarrollo no solo sea medible, sino principalmente predecible e influenciable.
Cuando el profesor de informática del Instituto Tecnológico de Massachusetts (MIT), Alex Pentland, explica que gracias al big data ya no es necesario pensar en términos de conceptos como «individuo», «libre albedrío» e incluso «política» del siglo XVIII, sino que la humanidad debe construir un sistema nervioso y eléctrico global capaz de concebirse como un mecanismo formado por patrones repetitivos, como las trayectorias de bandadas de pájaros o bancos de peces, que puede ser fácilmente gobernado mediante ciertos instrumentos de «presión social», se materializa el anhelo prohibido de los antiguos legalistas chinos que recomendaban a los líderes un estricto uso de recompensas y castigos para que la obediencia se convierta en una segunda naturaleza de los ciudadanos y para que la sociedad funcione con tanta regularidad y naturalidad como el propio universo.
Las ocho dimensiones de convergencia entre el partido y las plataformas
Si los ingenieros actuales de las redes sociales están construyendo sus arquitecturas sobre la base de los experimentos de Burrhus Skinner con ratones de laboratorio, y desde 2010 el CEO Eric Schmidt declara que los usuarios esperan que Google les diga «lo que deben hacer a continuación», los puntos de contacto entre la visión del mundo de Silicon Valley y la del Partido Comunista Chino son demasiado evidentes para ser ignorados. No se trata de una mera coincidencia, sino de una convergencia estructural basada en al menos ocho elementos fundamentales:
1. Los científicos han soñado siempre con reducir la gobernabilidad de la sociedad a una ecuación matemática que elimine los márgenes de irracionalidad e incertidumbre inherentes al comportamiento humano. Hace dos siglos, Auguste Comte definió la física social como «la ciencia que tiene como objeto propio el estudio de los fenómenos sociales, considerados de la misma manera que los fenómenos astronómicos, físicos, químicos y fisiológicos, es decir, sometidos a leyes naturales invariables, cuyo descubrimiento es el objetivo especial de sus investigaciones». A lo largo del tiempo, muchos han propuesto sus visiones de una «ciencia de la política», pero nunca han logrado el objetivo de hacer que la evolución de la sociedad sea más predecible.
Sin embargo, en los últimos años, ha ocurrido un fenómeno muy importante. Por primera vez, el comportamiento humano, que hasta ahora tenía un valor en sí mismo, comenzó a generar un flujo masivo de datos. Esta abundancia de datos sin precedentes permite ahora imaginar un gobierno científico de la sociedad, que es precisamente lo que propone el Partido Comunista Chino, al menos desde principios de la década de 2000, cuando sus expertos hicieron de la nueva «teoría científica del desarrollo» el eje de su plataforma programática.
2. Ni Silicon Valley ni el Partido están interesados en el individuo, dotado de subjetividad y autonomía. Les interesan las tendencias generales. Mientras que el comportamiento del individuo no puede ser predicho con certeza, el comportamiento agregado es predecible porque, a través de la observación del sistema, es posible inferir el comportamiento promedio. Las interacciones importan más que la naturaleza de las unidades, y el sistema en su conjunto tiene características y obedece a reglas que hacen predecible su evolución.
3. Una vez detectado y cuantificado, el comportamiento de los conjuntos sociales puede ser optimizado para maximizar ciertos resultados. Al analizar las correlaciones, es decir, cómo incluso un pequeño cambio en un parámetro afecta al sistema en su conjunto, es posible desencadenar un proceso de experimentación continua. Independientemente del objetivo, algunos estímulos son más efectivos que otros. Los clics proporcionan retroalimentación en tiempo real, en base a la cual los estímulos pueden ser continuamente modificados en contenido y forma, manteniendo aquellos que funcionan y descartando los menos efectivos.
En 1990, Gilles Deleuze ya había descrito la transición de una sociedad disciplinaria basada en el confinamiento a una sociedad de control, diciendo: «Las cárceles son moldes, módulos distintos, pero el control es una modulación, como un molde que se auto-deforma y cambia continuamente, de un momento a otro, o como un tamiz cuya malla cambiaría de un punto a otro». Hoy, ya hemos llegado a eso.
4. El verdadero enemigo de un sistema construido sobre estas bases es la anomalía, el comportamiento discordante, que debe ser identificado y neutralizado rápidamente. Esto es lo que sucede en la República Popular China, donde los disidentes son neutralizados rápidamente, pero también en espacios públicos en los Estados Unidos y Europa (siendo los aeropuertos el ejemplo paradigmático), donde programas creados por Palantir analizan en tiempo real los movimientos de los pasajeros y alertan de inmediato a las fuerzas de seguridad sobre cualquier comportamiento anormal que se considere un posible indicio de un intento de acto terrorista. Además, la empresa estadounidense ofrece detectar anomalías (es decir, comportamientos sospechosos) en una amplia gama de contextos diferentes, desde el fraude en los seguros hasta la detección de posibles agitadores dentro de una organización.
El mundo digital impone un estilo de vida del que nadie puede escapar. Cada vez más, debemos adaptar nuestro comportamiento a las indicaciones de los smartphones.
5. Tanto en China como en Europa, la principal y más grave anomalía es la desconexión. En ambos contextos, resulta inconcebible llevar una vida «normal» y ejercer plenamente nuestros derechos, necesidades y aspiraciones sin estar permanentemente conectados. La falta de conexión es considerada un signo de una mentalidad asocial y subversiva, e incluso sociopática. Un ejemplo de esto es cuando las fuerzas estadounidenses encontraron el escondite de Osama bin Laden en Abbottabad, donde era sospechoso que un complejo de ese tamaño no tuviera conexión a internet.
6. Afortunadamente, tanto en China como en Occidente, la desconexión es poco común debido a la adhesión voluntaria de las personas por los servicios que los smartphones ofrecen. ¿Quién renunciaría hoy a la posibilidad de satisfacer cualquier curiosidad en segundos, de orientarse en una ciudad desconocida con un dedo, pedir un taxi, tomar una foto para guardar el momento, compartirla con un grupo de amigos envidiosos, utilizar Shazam para identificar una canción que está sonando en la radio de un Uber, agregarla a la lista de reproducción de Spotify para escucharla nuevamente después de bajarse del auto?
7. Sin embargo, detrás de la aparente diversión y comodidad, tanto en China como en Silicon Valley hay un poder implacable y secreto. Al igual que el Partido Comunista chino, las grandes compañías digitales operan siguiendo este principio. En Occidente, uno de los secretos mejor guardados son los algoritmos que dirigen el funcionamiento de estas empresas, que pretenden imponer una transparencia total a los demás. En China, el poder opaco inscrito en la Ciudad Prohibida sigue intacto a pesar del avance de la «controlocracia».
Esto no es algo nuevo: estudios sobre el impacto del telégrafo y el teléfono han demostrado que ambos condujeron a una mayor centralización en la toma de decisiones en los imperios coloniales del siglo XIX. En el pasado, los responsables locales tenían cierta autonomía para actuar antes de recibir instrucciones del centro, pero las tecnologías actuales han borrado esa autonomía.
8. Silicon Valley y el Partido Comunista chino trabajan en conjunto hacia un futuro posthumano. Muchos ingenieros en empresas tecnológicas de Silicon Valley piensan que su prioridad no es servir a los seres humanos de hoy, sino construir inteligencias artificiales que heredarán la Tierra en el futuro. Por otro lado, el régimen chino también corre en la «carrera hacia la IA» y le da una gran importancia. Existe una preocupante convergencia entre esta carrera y los experimentos realizados en el campo de la biotecnología, especialmente en los laboratorios chinos.
Estos ocho puntos de convergencia indican que el orden que el régimen chino ha creado no es un fenómeno aislado. El mundo que proyecta es similar al de su rival declarado. Existe una tendencia fuerte que está presente en ambos lados del océano Pacífico: un camino hacia una época en la que la autonomía y la libertad del individuo habrán desaparecido.
Escapar del dominio de la servidumbre digital
Aunque hay muchos elementos de convergencia, hay una diferencia fundamental. Mientras que en China el algoritmo totalitario ha consolidado su poder, en Estados Unidos existe, al menos en teoría, un poder político que responde a lógicas democráticas. Este último muestra, de vez en cuando, la intención de limitar el excesivo poder de los nuevos señores feudales digitales.
Esta diferencia no es insignificante. Esperemos que tenga un efecto decisivo en la evolución futura. Sin embargo, la paradoja en Estados Unidos es que en las democracias liberales, «el poder político no es lo único al que los individuos deben responder» ni tampoco es lo más importante. En nuestras sociedades, la propagación del consumismo ha producido efectos normativos que a menudo son más restrictivos que el simple cumplimiento de la ley.
En la actualidad, el sistema de expectativas y modelos comportamentales se complementa con el creciente impacto de la tecnología digital. El uso de los teléfonos inteligentes es actualmente la principal experiencia colectiva que comparte toda la humanidad. En todas partes y a cualquier escala, la tecnología digital se ha convertido en la interfaz de nuestra relación con el mundo. Y este hecho, que puede parecer inofensivo, pero en realidad aún no ha sido completamente explorado en sus implicaciones prácticas, juega un papel fundamental en todas las transformaciones sociopolíticas actuales.
El mundo digital impone un estilo de vida del cual nadie puede escapar. Cada vez más frecuentemente, cada uno de nosotros debe ajustar su comportamiento de acuerdo a las indicaciones de su teléfono inteligente, y nadie tiene la menor idea de cómo funciona la «caja negra» en la que depende nuestra capacidad de actuar. Si la gran promesa de la tecnología digital, expresada por Steve Jobs en el lanzamiento del primer iPhone («es como tener nuestra vida en el bolsillo»), representa una visión de autonomía, el uso concreto de las herramientas digitales también produce el efecto contrario al generar un mayor control de los usuarios.
¿Qué significa ser humano en la era de la hiperconexión? Por ahora, parece significar principalmente estar a merced de los nuevos poderosos económicos que vigilan todos nuestros movimientos y utilizan artimañas para captar cada vez más nuestro tiempo y atención. Ante esta situación, como hemos observado, la movilización de argumentos morales con la esperanza de sensibilizar a la población es en gran medida inútil. La teoría crítica se vuelve, no por primera vez, impotente frente a la evolución del tecnoconsumismo.
Originalmente publicado en El Grand Continent, una revista europea de debate estratégico, político e intelectual, dentro de la serie «Poderes de la IA», legrandcontinent.eu/es. Traducción del italiano por Monserrat Iñigo. Tomado de la versión publicada por Nueva Sociedad.
