© Pedro Morazán, 03.02.2025
„¡Señor, es una emergencia!
Los espíritus que invoqué
No logro detenerlos.“
Wolfgang Goethe: “Der Zauberling”
Para hacer una breve reseña del último libro de Yuval Noah Harari, parece recomendable tener en cuenta su obra anterior, entre la que resalta su famoso Bestseller “Homo Sapiens”. “Nexus” es un libro sobre la información. Para ser más preciso, un tratado sobre las redes que surgen a través del intercambio de información: “La información, dice el autor, es el pegamento que mantiene unidas las redes”. El tema más importante del libro es, sin duda, la relación de las redes de información con el poder. Ya en el prólogo de su opus, Harari se pregunta: “¿Por qué somos tan buenos a la hora de acumular más información y poder, pero tenemos mucho menos éxito a la hora de adquirir sabiduría?”. Haciendo alusión al texto admonitorio de Wolgang Goethe, en el que un aprendiz de brujo expresa alarmado que “Los espíritus que invoqué / No logro detenerlos”, Harari nos recuerda que, con la inteligencia artificial, los chatbots, “X” y otros espíritus algorítmicos estamos dándole vida a monstruos que, como “El aprendiz de brujo”, ya no podremos controlar.
Por más que intentemos escaparnos de él, corriendo extenuados de la cocina al dormitorio evitando dirigir la mirada a algún televisor o a la portada de algún diario sobre la mesa, nuestro intento se ve frustrado. En estos días turbulentos, no toparse con la careta bufona del hombre más rico de la tierra, Elon Musk es una mision imposible. Su burlesco rostro parece perseguirnos a todos y parece dominar el discurso político y cultural del momento. El papel que ha jugado en el triunfo electoral de Trump, con la difusión descarada intrigas y falacias en su red “X”, ha sido innegable. Su ambición de poder lo lleva ahora a proyectar su sombra malevola promoviendo de manera descarada a los partidos de ultraderecha rascista en Europa, atacando homosexuales o celebridades. Todo esto parece confirmar la tesis central de la obra de Harari: “la humanidad adquiere un poder enorme a través de la construcción de enormes redes de cooperación, pero la forma en que se establecen las lleva a hacer un uso imprudente del poder”.
Por otro lado, para entender la lógica de la argumentación de Harari es necesario asumir que los humanos tenemos una “idea ingenua de lo que es información”. Dicha ingenuidad se debe a que consideramos que, en cantidades suficientes, la información conduce a la verdad y la sabiduría. Es decir que, mientras más información podamos adquirir, mucho mejor para nosotros. Por ello suponemos ingenuamente que la inteligencia artificial (IA), como la tecnología de la información más poderosa actualmente, nos llevará a resolver todos los problemas existentes.
Harari estructura su obra en tres grandes partes: en la primera nos describe las redes humanas de información desde una perspectiva histórica (“desde la edad de piedra”). Esta mirada histórica es esencial para poder comprender lo que está pasando actualmente y analizar los peligros que nos amenazan en el futuro. En la segunda parte, la propuesta gira en torno a la idea de que estamos creando por primera vez en la historia, redes inorgánicas de información, con enormes implicaciones. En una tercera parte, el autor se ocupa con lo que podría ser una suerte de política informática, partiendo de la idea de la democracia como el marco adecuado para lo que él llama conversación. Ojo, si bien es cierto que la democracia ofrece enormes potenciales para manejar el problema, también es cierto que la IA podría inclinar la balanza del poder en favor del totalitarismo.
A la luz del debate sobre la necesidad de establecer mecanismos de control sobre la IA, son interesantes las reflexiones que el autor enuncia ya en el prólogo en torno al populismo. La argumentación de los lideres populistas como Trump, Putin en Rusia o Erdogan en Turquía, sustituye la idea ingenua sobre la información, argumentando que la aspiración por el poder es el hilo conductor del espíritu humano. Los “hechos” o las “verdades” adquieren, por tanto, un carácter relativo y son sustituidos por un nihilismo oportunista, que, en no pocos casos, pone en duda incluso el rol de la ciencia y de los expertos. La falacia narrativa del populismo nihilista convierte a la ciencia y los expertos en instrumentos de poder de las llamadas “élites corruptas” que dominan a las grandes mayorías. El nombramiento de Robert Kennedy Jr., prominente difusor de teorías de la conspiración, como Ministro de Salud en los Estados Unidos, no es más que uno de los miles de ejemplos que corroboran dicha tesis.
Cuestionar los hechos y su veracidad, como arma de poder, no es atributo exclusivo de los populistas de derecha. A criterio de Harari, intelectuales como Foucault o Edward Said cuestionaban de forma similar, instituciones científicas como hospitales y universidades, bajo el supuesto de que las mismas estarían al servicio de élites capitalistas o colonialistas. A esta lista podríamos agregar al dictador Nicolás Maduro en Venezuela, para quién las actas electorales no tienen importancia a la hora de avalar un fraude. Si alguien afirma que hubo fraude, baste verificar quién lo afirma, para cuestionar su validez.
El nihilismo del que se valen los populistas abarca también todo el espectro del conocimiento científico. La existencia del cambio climático, por ejemplo, puede ser cuestionada, a pesar de que su evidencia ha sido confirmada por cientos de científicos de numerosas disciplinas y de diversos países, que han reunido datos e informaciones en una gigantesca red de investigaciones. Una sola persona, con una sola afirmación, puede cuestionar el trabajo institucional de una red de instituciones científicas trabajando día y noche. Es por ello que los lideres populistas carismáticos, buscan por lo general explicaciones divinas que vengan a sustituir a la ciencia. No pocos de estos líderes vinculan su poder a dogmas religiosos, sean éstos evangelicales, como en el caso de Trump o islamistas como en el caso de Erdogan.
No podría dejar de mencionar en este punto la valiosa contribución del versado intelectual venezolano Moises Naim en su libro “La revancha de los poderosos”. En la primera parte, Naim nos descriobe lo que el llama las tres “P”, es decir, populismo, polarización y posverdad. Para Naim los peligros que acechan a la democracia no vienen tanto de afuero, sino más bien de adentro y tienen que ver con el surgimiento de autocracias producto de ese cocktail peligroso de las tres P. En lo referente al análisis de las modernas estructuras de poder, Naim parece ir un poco más allá que Harari cuando se ocupa con “Amazon” como ejemplo de la extraordinaria acumulación de poder económico en manos de una sola empresa. Incluso en lo referente al “Nexo”, el libro nos muestra los potenciales que tiene la democracia para poder recuperar el control
Partiendo de lo anterior, Harari comienza sus reflexiones preguntándose qué es la información. Siendo consciente de los riesgos que implica toda definición, el autor anuncia que no nos ofrecerá una definición universal del concepto información. Más que una definición, el libro ofrece un análisis bastante detallado del papel que ha jugado la información en la historia. De nuevo, definir la información en un contexto de búsqueda de la verdad, no es otra cosa más que una “idea ingenua de la información”. Pero ojo, esta no es una noción nihilista, que nos lleve, por otro camino, a la “posverdad” ya mencionada más arriba. Todo lo contrario, se parte del hecho de que la verdad, definida como representación exacta de la realidad, puede ser cuestinada haciendo uso enormes cantidades de informaciones erroneas o falsas.
Existe pues una diferencia entre ”información errónea” y “desinformación”. Al contrario de la primera, que puede ser involuntaria, esta última es deliberada. No son la misma cosa. Aunque personas, naciones o culturas diferentes puedan tener opiniones y sentimientos enfrentados, no pueden poseer verdades contradictorias, porque todas comparten una realidad universal: La ley de la gravedad es la misma en Honduras que en Alemania o China. Aquel que rechaza el universalismo rechaza la verdad. Por otro lado, la verdad resulta costosa. Para lograr verificar algo se necesitan, por lo general, muchos recursos y mucho trabajo. En el inmenso océano de la información, la verdad necesita un empujón para salir a flote, de lo contrario se hunde.
Nuestra búsqueda de la verdad a través del contacto que establecemos con otros individuos por medio de las redes, no siempre se ve coronada por el éxito. La mayor parte de la información que existe es falsa. Para entender esto es necesario analizar otro concepto fundamental: el orden. La aspiración de las redes humanas por crear “orden” se justifica porque el exceso de información descontrolado puede conducir al caos y la merma de autoridad. Sin embargo, para crear orden, la verdad no ha sido siempre el camino más transitado en la historia. Todo lo contrario, la experiencia demuestra que, en la mayoría de los casos, la ficción o la fantasía son más efectivas a la hora de establecer orden entre miles o millones individuos que pretenden ser parte de una colectividad. Vincularse y crear identidades nacionales, étnicas o religiosas está mas bien vinculado a la creencia en alguna historia que le resulte coherente a la gente. Así para los Hindúes bañarse en el Rio Ganges es más purificador que hacerse la señal de la cruz en la frente con el agua de alguna pileta a la entrada de la iglesia. Es lo que Daniel Kahneman llamaría la coherencia asociativa que nos impide identificar la mentira o falsedad de un argumento porque el mismo no encaja con nuestras aspiraciones o creencias. A los Incas en el Alto Perú les costaba mucho, en la época colonial aceptar que “un cordero de Dios quitara los pecados del mundo” y que adorar al Sol (Inti) o a la Luna (Killa) fuera al mismo tiempo un sacrilegio. Milles de ellos pagaron con su vida la “conversión” y la renuncia a sus creencias.
El invento de la imprenta por parte de Gutenberg a mediados del siglo XV fue una auténtica revolución tecnológica para la humanidad. Sin embargo, suponer que existe una linea directa entre la invención de la imprenta y el surgimiento la ilustración es lamentablemente erroneo. Hasta que aparecieran Leibniz y la ilustración pasaron por los menos 200 años de obscurantismo religioso, promovidos involuntariamente por la publicación de la Biblia y el Corán como vehículos para establecer un “orden” basado en el fanatismo religioso. También la rápida difusión del famoso libelo “El Martillo de las Brujas” fue solo posible debido a la existencia de la imprenta.
La cacería de brujas es un ejemplo del terrible impacto que todo esto tuvo para el desarrollo de la humanidad. Bastó con que un pequeño grupo de sujetos venenosos desarrollarán el mito de que las brujas eran parte de una conspiración mundial destinada a destruir a la humanidad, para iniciar la cacería y el asesinando de cientos de mujeres inocentes y, en no pocos casos, dotadas de enorme sabiduría. No existía un poder Judicial independiente que estuviera por encima de la Inquisición. “El Martillo de las brujas” (Malleus Maleficarum) de los frailes austriacos Heinrich Kramer y Jakob Sprenger, tuvo una influencia nefasta en la historia europea. Nadie se preocupó por leer los estudios de Copérnico difundidos por la misma imprenta de Gutenberg, en la misma época. Para la gente eran más interesantes las morbosas historias de Kramer, en las que se narraba, por ejemplo, como las brujas le robaban los penes a los hombres para esconderlos en los árboles. Decenas de miles de personas, inocentes victimas de intrigas, fueron ejecutas en Europa como resultado de tales falacias narrativas.
¿A quién le damos la responsabilidad por tales crímenes? ¿A Gutenberg, el inventor de la imprenta? ¿A la imprenta? Evidentemente que no. Es aquí donde surge la idea del poder y del orden, sin las cuales tales desviaciones resultan inexplicables. La institución que utilizó la imprenta para ejercer poder a través de un orden establecido en base a falacias narrativas, fue por entonces la iglesia. En el caso concreto enunciado más arriba, la religión católica. Pero tales aberraciones no han sido privilegio de las religiones, que en muchos casos no han sido más que vehículos para ejercer el poder. También Hitler y el nazismo en Alemania, Stalin y el comunismo en Rusia, o el islamismo de los Mulas en Irán, son una confirmación que solo mediante la imposición de un orden, pueden desplegarse las redes de información en su vínculo con el poder.
¿Que tiene que ver todo esto con Facebook, con Elon Musk y con Jeff Bezos? De hecho, más de lo que imaginamos. La imprenta de los tiempos modernos son las plataformas digitales. Y los nuevos creadores del orden basado en ficciones y falacias son los Technomillonarios que controlan dichas redes. Ellos tienen el poder para crear algoritmos elaborados para manipular las emociones más primitivas que tienen los seres humanos: el miedo, el odio, la venganza, la envidia etc. Son esos sentimientos los que producen la mayor cantidad de clics en los llamados “medios o redes sociales”.
Como bien se sabe, en el centro de esta nueva era de la digitalización está el ordenador, es decir, la computadora. Para comprender toda estructura habría que que ocuparse en más de detalle de los dos concepto: el algoritmo y la IA. La imprenta fue, al igual que la maquina de vapor, un invento crucial para el desarrollo de la humanidad y la creación de redes. Pero tanto la imprenta, como la maquina de vapor o la energía atómica son instrumentos que solo pueden funcionar por decisiones de seres humanos que son externas a dichos instrumentos. Sin el accionar de los seres humanos dichos inventos son materia muerta. Los ordenadores y sus respectivos algoritmos, en cambio, pueden tomar decisiones por si mismos y convertirse de esta manera en agentes. En determinados casos, como los propios algoritmos de Facebook, en agentes con capacidad de tener impactos funestos como lo muestra el genocidio contra los rohinyás en Myanmar promovido por el algoritmo de Facbook. Hoy en día los algoritmos son capaces de generar noticias falsas y mitos conspirativos por si mismos, sin la intervención directa de los expertos que un dia los programaron.
¿Qué es en realidad IA? se pregunta Harari recurrentemente. Las películas de Hollywood fueron las primeras que llamaron la atención al respecto. Sin embargo, tanto “Matrix” como “Terminator” muchas otras más, lo hicieron poniendo el énfasis en el lado falso del problema: Un ejército de Robots que actúa de manera independiente para dominar desde afuera a la humanidad. La amenaza real que implica la AI, según Harari, no proviene “desde afuera”. Dicha amenaza se refiere a una actuación más bien concentrada y casi imperceptible que se está desarrollando desde el interior de procesos que a primera vista parecen banales. Se trata más bien de que los algoritmos creados por la IA podrían decidir sobre aspectos cruciales del actuar humano como por ejemplo realizar una inversión financiera o seleccionar a una persona para que pueda asumir una función o un trabajo en una empresa.
Otro aspecto, quizás más importante se refiere a la necesidad de regular o controlar la IA en condiciones en las que existe una carrera de competencia entre las potencias más importantes China y los Estados Unidos. ¿Se trata de reducir la velocidad? ¿De hacer más lento el proceso de expansión de la IA? Ahora bien, ¿qué ocurriría si los Estados Unidos deciden ir más lento? Si, se decide por ejemplo a darle un tiempo de espera a ChatGPT-4. Los rivales, como China decidirán acelerar más sus procesos de IA para obtener ventaja, el éxito de DeepSeek no es más que uno de los tantos escenarios. Y viceversa. El resultado final podría ser que no sean ni China ni los Estados Unidos, sino la misma IA la que alcance la ventaja definitiva sobre todos los seres humanos, sean estos chinos o americanos.
Después de haber vivido siglos de evolución guiada por ellos mismos, los seres humanos se enfrentan por primera vez a la amenaza de ser guiados por la IA, como una fuerza extraña, no orgánica afirma Harari. En Alemania circula actualmente un anuncio que ofrece la posibilidad de estar en contacto con un ser querido aun después de su muerte. No se trata aquí de una visión esotérica, sino de la acumulación de una cantidad de información sobre tal persona, de tal manera que sus seres queridos puedan obtener respuestas coherentes de un Chatbot, aun después de muerta dicha persona. No se necesita mucho esfuerzo para extrapolar dicha situación y darnos cuentas de que los limites que tenemos los humanos, como la muerte, pueden ser superados por las máquinas ya que estas no son materia orgánica.
Las plataformas como Facebook, Amazon, “X”, promueven mensajes particulares de manera deliberada y moldean la opinión de sus clientes. Afirmar que ellas solo “obedecen los caprichos de sus clientes y las normativas gubernamentales” es, dicho sea de paso, sino falso por lo menos altamente cuestionable. Es por ello que Harari se alinea con las voces que exigen desde hace algún tiempo que dichas plataformas asuman legalmente la responsabilidad por las implicaciones de sus algoritmos. Al igual que los editores de diarios y otras publicaciones, los propietarios de las plataformas digitales tienen enorme poder y responsabilidad. No es pues casualidad que las principales compañías tecnológicas destinaran en 2022 más de 70 millones de dólares para financiar actividades de incidencia en el gobierno de los Estados Unidos y otros 113 millones en los gobiernos de la UE para evitar regulaciones más estrictas de sus algoritmos.
A este respecto es importante hacer hincapié en que, para Harari, esa tan difundida creencia en el “determinismo tecnológico”, resulta en muchos casos peligrosa, en vista de que exime a la gente de su responsabilidad. Esto podría contrastar un tanto con la tesis del filósofo y físico español Adrián Almazán, para quien la pretendida neutralidad de la técnica es una falacia. En su fascinante libro sobre el mito de la tecnología, Almazán se basa en el concepto de “imaginario social” de Cornelius Castoriadis, para fundamentar lo que él llama el “tecno-optimismo” que nos ha impedido desarrollar una suerte de filosofía de la técnica (y de la tecnología). Pero esta no es la ruta que sigue Harari en su Nexus y por eso lo dejaremos como asignatura pendiente en este blog.
Gran parte de la argumentación de Harari se concentra en las marcadas diferencias que existen entre democracias y dictaduras o sistemas autocráticos a la hora de activar instrumentos que permitan controlar la manipulación de la información en base a las innovaciones tecnológicas en curso. A manera de ejemplo se podría mencionar el control facial que en China se vincula a un sistema de puntaje para penalizar a personas identificadas a la hora de cometer una infracción (sea esta cruzar el semáforo en rojo o participar en una protesta).
Para poder ser definida como IA, una maquina tiene que ser capaz de aprender y cambiar por si misma. Si la maquina no es capaz de hacerlo, no puede ser definida como IA. Por eso el GPS por si mismo no puede ser considerado IA, mientras no se vincule a algún algoritmo que permita, por ejemplo, integrar dos aspectos funcionales: la conducción y el ambiente vial. El peligro radica en que la IA ha pasado de ser una simple herramienta para constituirse en un agente y como tal, capaz de diseñar por si mismo, procesos que no siempre pueden ser controlados por los seres humanos. Dichos agentes crean procesos en áreas estratégicas de la vida humana, como los sistemas financieros, sistemas armamentísticos, o los sistemas de salud. Una vez superado el optimismo inicial, las preocupaciones son cada vez mayores, entre políticos y expertos. Los cambios que se están produciendo adquieren una enorme velocidad sin permitirle a las sociedades poder adaptarse a los mismos. En vista de que la IA trabaja con enormes volúmenes de datos y con algoritmos muy dinámicos que han adquirido una enorme complejidad, la posibilidad de manejarlos y tenerlos bajo control parece ir reduciéndose aceleradamente.
A nivel internacional parece haber surgido ya una suerte de colonialismo de la información e imperios digitales. Muchas naciones podrían colapsar debido a que no poseen las informaciones ni el acceso a la IA. En el llamado “worst case”, el peor de los casos: La IA conquista el planeta dominando a los humanos como seres consientes (capaces de amar, sufrir, disfrutar, ayudar etc). ¿Cuán probable resulta un tal escenario? Al parecer dicho escenario aun resulta poco probable.
“En la literatura tributaria, el «nexo» consiste en la conexión de una entidad con una jurisdicción determinada”. Esto quiere decir que el “nexo tributario” de una empresa o persona jurídica depene de su presencia física en un país o territorio determinado. Como bien se sabe, es sumamente difícil vincular a las grandes plataformas digitales con jurisdicciones tributarias nacionales, en vista de que no cuentan con “presencia física”. No son análogas, son digitales, casi etereas. Por una propuesta para abordar los dilemas tributarios creados por la red informática tiene que ver con redefinir el nexo. Harari hace referencia al connotado economista Marko Köthenbürger, para quien «la definición de “nexo” basada en una presencia física debe revisarse para incluir la idea de una presencia digital en un país».
En uno de sus apartados Harari se pregunta acerca de las implicaciones que tendrán el dominio y la acumulación de poder de lo que él llama las “redes inorgánicas” sobre las redes humanas. La situación actual en la que algoritmos sumamente poderosos como los de Facebook o TikTok, cuentan con un enorme poder de manipulación, no requiere ser analizada en detalle y, a mi criterio, el análisis de Harari se queda corto si tomamos en cuenta que ya antes que él, otros autores habían analizado el poder de Amazon, otro de los grandes a la hora de dominar las redes humanas.
Para Harari es importante demostrar, cómo en la presente etapa los poderosos algoritmos y IA (entendida como la “capacidad desarrollada por ciertos algoritmos de aprender y cambiar por sí mismos”) han logrado ocupar aspectos importantes de la actividad humana. Las consecuencias de una tal acumulación de poder en tales redes son evidentemente incontrolables y los propietarios de tales algoritmos evaden todo tipo de responsabilidad ante los impactos negativos que puedan surgir. Por ello “redes humanas” como la Unión Europea y, hasta hace poco los Estados Unidos de Norteamérica, se encuentran ante la difícil tarea de establecer una construcción jurídica que permita establecer mayor control y regulación. Los investigadores se han puesto de acuerdo en una respuesta: el detonante fundamental para activar la predisposición autoritaria es la percepción de una «amenaza».
Quizás la foto más emblemática de la toma de posesión de Donald Trump haya sido aquella en la que aparecen Zuckeberg (Facebook), Bezos (Amazon), Musk (“X”). Lo que Harari no llegó a desarrollar en su obra, es la realidad que nos aqueja actualmente: La “Santa Alianza” entre una oligarquía Tecnológica y un gobierno con tendencias ultraderechistas y racistas como el de Donald Trump. Como bien lo observa Katharina Pistor, la imagen de los fundadores y directores ejecutivos de las grandes tecnológicas, ocupando la primera fila en la toma de posesión de Donald Trump, por delante de sus Gabinete es, de por sí misma un manifiesto: Estamos asistiendo a la toma del poder por parte de las más poderosas empresas privadas de la tierra. La historia de la humanidad nos enseña que esto al final no termina bien para nadie. ¿Nos veremos obligados a abandonar cualquier pretensión de más democracia ciudadana en lugar de contar con un gobierno independiente capaz de regular y democratizar a los grandes consocios privados? ¿Existe una relación entre este dilema y el dilema expuesto por Harari en su valiosa obra?
Quizas sea ahora el momento de retomar a Naim en esta corta reseña, cuando nos invita a desarrollar una estrategia de cinco batallas para recuperar el alma de la democracia: 1. La batalla contra la Gran Mentira. Necesitamos higiene digital para ser ciudadanos informados y receptivos. 2. La batalla contra los gobiernos convertidos en criminales. Necesitamos descubrir las organizaciones benéficas falsas de estos autócratas, nombrarlas y denunciarlas. 3. La batalla contra las autocracias que tratan de debilitar a las democracias. 4. La batalla contra los cárteles políticos que ahogan a la competencia. 5. La batalla contra los relatos iliberales. Necesitamos seguir diciéndole a la gente que la retórica del autócrata 3P es superficial y hueca.
Para los populistas el poder es la única realidad y la lucha por la verdad está subordinada a la lucha por el poder. El surgimiento de la nueva oligarquía en torno al gobierno populista de Donald Trump, podría sintetizar esa nueva mezcla entre poder e inteligencia artificial. En mi opinión, es en este punto donde la filosofía podría darnos algunas pistas importantes. Definida como el “amor por la verdad”, la filosofía como ciencia, no hace más que recordarnos que el amor de los seres humanos por la verdad ha triunfado en el pasado contra los obscuros instintos del poder. La superación de este gran dilema no depende de inventar otra tecnología milagrosa. “Más bien, para crear redes más sabias debemos abandonar tanto la idea ingenua como la populista de la información, dejar de lado nuestras fantasías de infalibilidad y comprometernos con el trabajo duro y bastante prosaico de construir instituciones con mecanismos de autocorrección sólidos. Esta es, quizá, la lección más importante que puede ofrecer este libro.” Es el epílogo de esta gran obra que, en mi opinión, es lectura obligatoria.
Almazán, Adrián (2021). Técnica y tecnología: Cómo conversar con un tecnolófilo (Spanish Edition) Taugenit Editorial. Kindle-Version
Harari, Yuval Noah (2024). Nexus: Una breve historia de las redes de información desde la Edad de Piedra hasta la IA (Spanish Edition) (S.4). DEBATE. Kindle-Version.
Naím, Moisés (2022). La revancha de los poderosos: Cómo los autócratas están reinventando la política en el siglo XXI (Spanish Edition). DEBATE. Kindle-Version.
Spanish 
German