Páginas de Espuma edita estas historias maestras en lo inquietante y en lo futuro, una colección de relatos que explora los miedos tecnológicos de la era del algoritmo y del dios en la máquina
MURCIA. En la portada, un piloto yace en el suelo demasiado rígido para lo que cabría esperar en una calle desierta de humanidad de una ciudad que cualquiera podría sentir familiar: no se ha estrellado contra el pavimento porque de lo contrario, presuponiendo alto el punto de partida de su caída celestial, habría reventado, el casco se habría hecho añicos, la calzada no estaría tan limpia. Junto al piloto, un pájaro busca entre las baldosas, indiferente a la situación. Puede que incluso acabe sacando provecho de ella. Sobre el piloto desconcertante, un nombre, el del autor del libro, Edmundo Paz Soldán (Bolivia, 1967). Bajo el ave, el título: La vía del futuro, y entre la acera y el carril, Páginas de Espuma, sello responsable de la edición de esta obra de ficción especulativa en la que los miedos nos quieren sonar más familiares de lo que desearíamos, de tal manera que un culto religioso devoto de una inteligencia nacida en las entrañas de internet nos eriza un poco el vello en la nuca, para dar paso a comunidades de trabajo regidas por una autoridad incorpórea, a androides de compañía, a astronautas amnésicos. Una llamada de las de antes: al otro lado de la línea, la voz del autor se emite serena, con la afabilidad de la inteligencia. Tras los saludos iniciales y la advertencia de la grabación, comienza la conversación sobre el mañana más inmediato:
-La idea de un dios en la máquina es muy sugerente y muy humana. En teoría el progreso científico debería llevarnos en otra dirección, pero conociéndonos, es muy probable que acabemos adorando a un algoritmo. ¿Crees que vamos por ese camino?
-Edmundo Paz Soldán: Lo que yo pienso es que nosotros creamos a los dioses a nuestra imagen y semejanza, y como ha avanzado tanto la inteligencia artificial, de una manera u otra, también comenzamos a tener relaciones espirituales con las máquinas: les ponemos nombre, mantenemos relaciones afectivas con nuestro móvil, con las diferentes tecnologías. Uno piensa que hay una separación muy fuerte entre lo tecnológico como una parte de lo secular, y lo divino y lo religioso, ¿pero por qué? Si pasamos tanto tiempo de nuestras vidas con la máquina, de una forma u otra ya la estamos adorando. Me parece que sería un paso obvio a seguir. De hecho en algunos círculos tecnocientíficos fanáticos en Silicon Valley y en otros lugares ya han aparecido ciertos cultos. El primer cuento está basado en una historia real.
-Educamos a los algoritmos mediante captchas y mediante aplicaciones aparentemente inocentes. De hecho, como tú reflejas, las respuestas de algunos algoritmos podemos desentrañarlas, con suerte, a posteriori, pero no preverlas. ¿Es posible que ya hayamos perdido el control de la tecnología, tengamos la perspectiva suficiente para verlo o no?
-No llegaría a ese punto de decir que hemos perdido el control, pero sí, después de hablar con gente que trabaja programando algoritmos, te van a decir más o menos lo mismo, que es que ha llegado un punto de la programación de los algoritmos, en que los programadores no pueden controlar todas las respuestas posibles. Hay una caja negra —para mí es una metáfora fascinante—: la caja negra de la máquina, a la que los mismos programadores no pueden llegar. Ahí sí comienzan a aparecer resultados extraños, como el de una máquina que, por ejemplo, podía distinguir, sin que estuviese programada para ello, si una persona era gay o no, y lo podía distinguir con más de un 90% de ciento de probabilidades de acierto. Eso podría ser luego utilizado por una compañía para discriminar, para seleccionar sin que ni siquiera la gente que está queriendo trabajar para esa compañía sepa que el algoritmo está haciendo esas cosas. No creo que se haya perdido el control, pero sí que con tantos cables y tantas sinapsis que tiene la máquina, es muy probable que haya ciertas respuestas que no estén de acuerdo con lo que querían los programadores, y que tampoco estos puedan explicarnos por qué la máquina llegó a esas respuestas. Esto son cambios que van a ir ocurriendo de a poco, pequeñas formas en las que las máquinas comienzan a adquirir ciertas autonomías, hasta que una máquina alcance masa crítica para poder adquirir una autonomía completa, pero aún estamos lejos… espero [risas].
-Algunas de nuestras tecnologías ya nos están introduciendo en derivas difíciles de manejar: hay algoritmos que compran y venden a la velocidad de la luz, drones que decantan guerras por completo. ¿Puede ocurrirnos que sin querer entremos en una trampa de la que no podamos salir, y acabemos metidos en una relación de dependencia ajena a nuestra voluntad?
-No veo por qué no. Sin duda alguna, una vez que has abierto la caja de Pandora, puede existir esa posibilidad. Muchos científicos y programadores tienen que seguir ciertos códigos para programar la máquina: por un lado hay muchas máquinas que están siendo programadas con nuestros propios prejuicios, pero por otro lado puede ocurrir que haya programadores que no quieran seguir ciertos códigos de conducta. Hay una clase de ética que dan en mi universidad, que se llama algo así como La ética de las máquinas. Por ejemplo: ahora mismo la Policía en Estados Unidos usa robots para ciertos casos, para ciertas situaciones, pero la regla que existe es que el robot no puede disparar por cuenta propia, eso tiene que ser controlado por un humano que le dé la autoridad, pero, ¿hasta cuándo va a durar eso? De a poco va avanzando la tecnología e igual llega un momento en que los militares digan: el robot ya tiene la capacidad de tomar una decisión en un campo de guerra. Eso lo veo como algo inevitable. También ocurre que muchas veces los militares tienen que guiarse en base a información que llega a través de las máquinas, de los algoritmos, para tomar una decisión, o sea que ahí también la máquina misma está actuando en el sistema.
-¿Son estos terrores o miedos tecnológicos el gran leitmotiv de la literatura inquietante de esta era?
-Hay un terror menos tecnológico, más visceral, que ha estado circulando mucho en la literatura latinoamericana —Mariana Enríquez, Mónica Ojeda por ejemplo—, que está conectado con todos los fantasmas de la dictadura, cómo reaparece, y el horror puede ser un género interesante para enfrentarse a estas cuestiones traumáticas, cuestiones políticas, en las que no necesariamente existe lo tecnológico. Me parece que lo tecnológico es un componente fundamental de la sociedad contemporánea, y obviamente se va a inmiscuir en nuestros sueños, en nuestras ansiedades, en nuestras pesadillas, de la misma forma en que también alguna vez se ha inmiscuido en nuestras utopías y en nuestros grandes deseos. A mí me interesa explorar —ya que la tecnología se ha metido en nuestra cabeza, ya no está fuera de nosotros, sino que como decía un aforismo de Nietzsche, las máquinas están trabajando en nuestros cerebros— esa forma en que nos impactan.
-¿Crees que en relatos de ficción como los tuyos pueden estar escribiéndose páginas reales del futuro?
-No me lo he planteado, son como sospechas que tengo de por dónde puede ir la cosa [risas]. Hay un lado muy conectado de la ciencia ficción con la cuestión visionaria, pero creo que son unos pocos los afortunados que pueden hacer eso, y solo se puede saber con una perspectiva que da el tiempo. Más pienso no tanto en el futuro, curiosamente, como en mis ansiedades del presente. Lo que trato de hacer es desnaturalizar la situación y proyectarla hacia el futuro, pero estoy siempre muy consciente de que es una ansiedad de mi presente, muy de lo que me rodea, de lo que me asusta, preocupa o inquieta.
-¿Cuánto dirías que queda para que tu libro y Black Mirror sean obras costumbristas?
-[Risas] Yo creo que ya la ciencia ficción está sonando a costumbrismo. Lo que ha pasado es que ahora estamos tan abrumados, son tan parte de nuestro paisaje, de nuestro entorno, la máquina, la tecnología, la inteligencia artificial… ¿Cuántas veces al día recurrimos al GPS, a la inteligencia artificial en nuestros móviles casi sin darnos cuenta? Es tan ubicuo esto que se ha vuelto invisible. La ciencia ficción está narrando algo que va a pasar dentro de cinco minutos.