Lo llamativo es el desconcierto del público asistente. Sin embargo, en el escenario, cada uno de nosotros ha desempeñado su papel. El asesor científico del presidente estadounidense ha hecho sus preguntas, neutras, educadas, destinadas a evitar asperezas, sobre todo a no perturbar, aunque fuera por un instante, el monólogo triunfal de los señores de las tecnológicas.
Sam Altman, jefe de OpenAI, ha hablado cuando le ha llegado el turno, con esos ojos como platos que le dan siempre la expresión alarmada de un animalillo del bosque, un cervatillo o un conejito, en contradicción con el tono monótono y la voluntad de poder sin límites que transmite en cada una de sus frases, incluida la más anodina.
Demis Hassabis, ha encarnado el rostro sonriente del posthumano, quizá más inquietante aún detrás de su afabilidad mediterránea, porque sentimos que él cree en ello, que para él no es una cuestión de dinero, ni de poder, que piensa de verdad que la única esperanza para la humanidad es remitirse al dios digital que él está creando en la fábrica de DeepMind.
Por lo que a mí respecta, lo primero que he hecho ha sido interpretar uno de mis papeles preferidos: el del tipo que no entiende muy bien qué hace allí y que, según toda lógica, no debería encontrarse en esa mesa. Luego lo entendí. Los organizadores del debate a puerta cerrada sobre las perspectivas de la IA necesitaban un humano. Al lado de los semidioses ocupados en concebir sus futuros felices sin nosotros, querían que hubiera un ser humano más o menos normal, dispuesto a formular dudas sobre su proyecto empresarial. Pensé, entonces, que rechazar el papel de humano sería una forma de deserción particularmente humillante.
Por mi experiencia de escriba azteca, es cierto que soy un absoluto incompetente en materia de inteligencia artificial. En cambio, habituado a la política, he desarrollado una clara competencia en materia de estupidez natural. Y cuando pensamos en el porvenir de la inteligencia artificial, hemos de admitir que, en vez de reforzar nuestra inteligencia humana, va a reforzar nuestra estupidez.
Así pues, cierta tarde de primavera, en un hotel de Lisboa, me hallé delante de una pequeña muestra de la legendaria agenda de direcciones de Kissinger: el secretario. general de la OTAN y su comandante militar, el presidente del Parlamento Europeo, dos o tres jefes de Gobierno, una multitud de ministros, comisarios, jefes de servicios secretos, un surtido de varios multimillonarios y de directores generales de varias grandes empresas.
El sueño despierto de todo conspiranoico, la cúpula de los Illuminati que supuestamente dirige el destino del planeta. Y, sin embargo, si un conspiranoico hubiera asistido a esa reunión con una mente abierta, lo que en realidad no es muy corriente entre ellos, habría sido testigo de un curioso fenómeno.
A medida que Altman y Hassabis avanzaban en su exposición, su auditorio ponía una cara cada vez más perpleja. Al padecer el primero el síndrome de Asperger y el otro estando completamente absorto en su búsqueda mesiática, el jefe de OpenIA y el de DeepMid estaban ciegos ante lo que ocurría, pero el fenómeno era muy chocante. Mientras escuchaban a los dos papas de la IA, los simples pero todopoderosos mortales presentes en la sala se daban cuenta, cada vez con más claridad, de que no había el menor punto de contacto entre su experiencia y el mundo nuevo que se desplegaba ante sus ojos. Peor aún, de que no podía establecer ninguna relación humana con los portadores de la Buena Nueva, pues estos últimos vivían ya en otro mundo, donde todo lo que había constituido la esencia de la aventura humana hasta entonces, empezando por la autonomía del individuo, había dejado de tener sentido. Cuanta más confianza trataban de transmitirles los tecnólogos, más escalofríos recorrían la columna vertebral de los asistentes. En un momento dado, viéndoles hundirse en sus asientos, me acordé de la expresión del pobre capitán Rocca, aquella famosa noche en Chicago. Esta tarde en Lisboa, los amigos de Kissinger, los gobernantes y los directores generales tenían exactamente la misma cara que el capitán Rocca. Poco importaba si su posición en el orden jerárquico no era la misma. Poco importaba si decenas, centenas de capitanes Rocca estaban repartidos por los alrededores para garantizar la seguridad, poco importaba el número de helicópteros y de tiradores de élite movilizados para velar por la tranquilidad de los amigos de Kissinger: la verdad es que su opinión frente a los papas de la IA no era muy distinta de la de todos los capitanes Rocca de Lisboa y del resto del planeta. Los unía el mismo desconcierto [...]
A la pregunta «¿Llegará un día que las IA puedan explicar cómo toman ellas mismas sus decisiones?», los tecnólogos responde que eso no sucederá jamás, que los modelos se mostrarán fiables, dignos de confianza, y que con eso bastará.
Como el Dios de Kierkegaard, la IA no puede ser pensada en términos puramente racionales. El único medio de entrar en relación con ella es hacer un acto de fe. Su gran promesa es predecir, aunque no se comprenda. Los tecnológicos no ven dónde está el problema. Porque no les interesa ni la historia ni la filosofía, no se dan cuenta de que su proposición equivale a una vuelta a una época anterior al Siglo de las Luces, a un mundo mágico, incomprensible, regido por la IA a la que rezaremos como a los dioses de la Antigüedad [...]
La verdadera novela anticipatoria de la IA esa El proceso, de Kafka, en la que nadie comprende lo que sucede, ni el acusado ni los jueces que lo imputan, y sin embargo, los acontecimientos siguen su curso inexorables. En El Castillo, la otra gran novela de Kafka, cuando trata de concentrarse en el centro del poder que controla su destino, sin tener acceso al él jamás ni obtener el menos indicio, la mirada de K., el protagonista, «resbala hacia el castillo, sin poder agarrarse a nada». Y cuando intenta telefonear, no oye al otro lado de la línea más que un canturreo de voces lejanas o, por el contrario, una voz severa u orgullosa que se niega a darle ninguna explicación.
Para algunos, el Castillo ya está aquí. Cuando se dice que el futuro está entre nosotros, pero distribuido de manera desigual, se quiere decir en realidad que los privilegiados ya tienen acceso a las tecnologías del futuro, mientras que los demás van rezagados. En el caso que nos ocupa, la situación es la inversa. El Castillo, por el momento, no es más que una hipótesis para las clases acomodadas, mientras que es ya una realidad para los que se hallan en la parte baja de la escala social. Los distribuidores, por ejemplo, ya no tienen apenas ningún contacto con un ser humano en el desempeño de su trabajo. Su único interlocutor es una aplicación en su teléfono móvil. Esa aplicación les asigna las tareas que han de hacer, los guía en su labor, evalúa su rendimiento según una lógica que a veces parece comprensible y luego, de repente, impenetrable. Si algo no funciona, si el distribuidor se enfrenta a un hecho imprevisto, o si el mecanismo se bloquea, no hay nadie a quien apelar. La aplicación saca sus conclusiones y emite un juicio. El buen sentido y la sensibilidad de un ser humano ha sido deliberadamente descartado. A lo sumo, el distribuidor puede dirigirse, como una formalidad, a un centro de llamadas situado a miles de kilómetros, donde, al cabo de una espera interminable, será consolado por un ser humano tan desprovisto de poder como él.
Con el paso del tiempo, el Castillo ocupa nuevos espacios y se extiende a otros ámbitos de actividad. Cuanto más aumentan las capacidades de la IA, más sube el Castillo por los escalones de la jerarquía social. Si los obreros son reemplazados por máquinas, los distribuidores se transforman progresivamente en máquinas ellos mismos; un fenómeno similar afecta hoy en día a los empleados, a los funcionarios, y así hasta llegar a lo que se llamaba antaño profesiones liberales. En un futuro ya muy próximo, los médicos, los contables y los abogados deberán adaptarse a las instrucciones que determine la IA y justificarse mucho en el caso de que decidan optar por un comportamiento divergente. Solo los más poderosos tendrán margen de maniobra, y aún así, quién sabe por cuánto tiempo.
El Castillo conquista a cada instante nuevos territorios y, tal como los amigos de Kissinger suponen confusamente, llegará un día que termine por atraparlos también a ellos, cuando la aplastante superioridad de los algoritmos que juzguen a los políticos y a los grandes dirigentes se imponga sin la menor sombra de duda. Ese día, el Castillo habrá cubierto toda la Tierra y los únicos que podrán bailar, libres y caprichosos cuales duques de Sajonia modernos, serán los sacerdotes del nuevo culto, los conquistadores de la IA, que saborearán por un momento la ambrosía de los dioses, antes de ser relegados también al olvido por la matriz del posthumano.
