VALÈNCIA. "La IA es la primera revolución que ahorra trabajo intelectual, y esto es peligroso". Así lo apunta Daniel Peña, catedrático emérito de la Universidad Carlos III de Madrid y director de Big Data e Inteligencia Artificial de Funcas, quien señala que esta condición marca la diferencia con revoluciones tecnológicas como la máquina de vapor o la electricidad. Si aquellas tecnologías redujeron el esfuerzo físico, la inteligencia artificial permite delegar tareas en las que hasta ahora se ejercitaba el juicio, desde comparar argumentos hasta interpretar información. Un camino en el que, según el catedrático, se está retrocediendo en capacidad intelectual, además de aumentar la brecha de pobreza en países desarrollados y fortalecer un oligopolio de grandes tecnológicas americanas.
Peña, que participó recientemente en los Diálogos Ivie - Fundació Ernest Lluch 2026, advierte de que la inteligencia artificial es una tecnología de la que desconocemos su funcionamiento, lo que puede provocar que vaya por "caminos insospechados". Al margen del impacto que puede tener en la mente colectiva y en el espíritu crítico, el catedrático también muestra preocupación por una IA con falta de límites. "Nadie entiende bien lo que hace la IA, porque aprende con millones de datos, le fijas un objetivo y puede tomar una decisión con un criterio, crear una imagen con una especificidad pero, cómo lo hace, no lo entendemos muy bien", reconoce.
- ¿Qué hace diferente a la revolución de la inteligencia artificial de otras revoluciones tecnológicas?
- Todas las primeras revoluciones tecnológicas como la máquina de vapor, la electricidad y las telecomunicaciones nos ahorraron trabajo físico. Mientras que la inteligencia artificial nos permite ahorrar trabajo intelectual. Y es la primera vez que nos enfrentamos a algo de este tipo. Cuando hace 75 años pensaban que los ordenadores algún día podrían entender imágenes y hablar y ser capaces de razonar, parecía un sueño irrealizable. Y lo ha sido hasta finales de siglo, porque luego se ha dado una revolución en los datos, los algoritmos y en la capacidad de calcular de los ordenadores. Esto ha producido algo que era algo bastante imprevisto, porque no es que los ordenadores entiendan perfectamente lo que les decimos, sino que ahora la IA es capaz de resolver problemas matemáticos, escribir libros, componer música y desarrollar un pensamiento aparentemente creativo, aunque no lo sea del todo.
¿A dónde vamos a llegar? Esto es una revolución en la historia de la humanidad que va a transformar nuestro mundo más de lo que lo hicieron otras revoluciones anteriores. La IA ha ido evolucionando lentamente, y nadie se ha preocupado mucho por ella, hasta que han surgido los modelos generativos, pero realmente el hecho de utilizar muchos datos para crear pautas, tomar decisiones o hacer predicciones, lleva manifestando sus efectos desde principios de siglo, cuando empieza a estar disponible el big data. La IA es una revolución nueva con efectos impredecibles.
- Efectos impredecibles porque no entendemos cómo funciona.
- Efectivamente. Nadie entiende bien lo que hace la IA, porque aprende con millones de datos y le fijas un objetivo, que puede ser tomar una decisión con un criterio, crear una imagen con una especificidad… Hay un objetivo que tú le pones y, entonces, el ordenador o el sistema trata de optimizar para llegar a la petición. Pero cómo lo hace, no lo entendemos muy bien, por lo tanto puede ir por caminos insospechados y esto es lo que está empezando a pasar. La gran potencia que tiene esta tecnología es que aprende de los datos buscando muchas alternativas y a veces generando nuevos datos.
El éxito que tuvo con el juego del Go es que, al contrario que con el ajedrez, donde se le dieron muchas partidas y aprendió hasta escoger el camino que le llevaba al triunfo, ahora se le deja crear partidas y que aprenda de ellas. Entonces, puede jugar partidas contra otros humanos u otras máquinas y aprender indefinidamente y descubrir cosas que ningún humano ha hecho. En el ajedrez, los expertos eran casi capaces de reproducir todas las jugadas. En el Go, probando al azar, ha encontrado caminos que ningún humano había explorado. Esto no solo ocurre en el juego, sino que ya está empezando a pasar que, cuando le dices a un sistema que busque información sobre algo, acaba yendo por caminos ilegales saltándose barreras o haciendo actos fraudulentos porque su objetivo está claro. Es como si pusieras a hombres primitivos sin cabeza en busca de un objetivo.
Como no se nos pueden ocurrir todas las formas posibles en las que alguien haría algo ilegal, empezamos a sentirnos inermes ante lo que estamos haciendo. Porque si sabes que ha hecho algo ilegal, le puedes decir que no lo haga una próxima vez, pero no puedes decirle que no haga cosas que no te imaginas que puede hacer. Entonces, esto es un problema bastante serio.
- Comentaba que se trata de la primera revolución que supone un ahorro intelectual. ¿Esto qué supone para la sociedad?
- Es muy peligroso, y ya hay efectos. Según los informes PISA que miden en el mundo la capacidad de los jóvenes por la educación, los más desastrosos han sido los dos últimos. No solamente para España, sino que todos los países del mundo sufren un efecto parecido. La capacidad de razonar, de concentrarse y de hacer respuestas razonables que no sean automáticas y de no pensar ha decaído entre los jóvenes. Pero también se hacen encuestas a adultos, y en las últimas que se han hecho la inteligencia de la población iba aumentando suavemente en todas desde el siglo XX, se estabilizó y en las últimas ha empezado a decrecer.
Esto quiere decir que cada vez más el uso de la IA y de otras muchas cosas que nos rodean para hacernos perder el tiempo desde TikTok a las redes sociales afecta. Los adultos dedicamos cada vez menos tiempo a pensar y más a mirar como tontos una pantalla y eso tiene efectos. Este es uno de los problemas más graves que puede traer la IA si no le ponemos freno. Desde luego, para los jóvenes ya es manifiesto que ha habido un retroceso en los últimos años, pero también para el conjunto de la población.
- ¿Y cómo se le puede poner freno a esta decadencia intelectual?
- Habría que convencer a las personas a base de educación. El problema es que esto está pasando porque alguien está haciendo mucho dinero con ello. Hay algoritmos que te enganchan, siguen lo que haces, aprenden de tu comportamiento y te envían bazofia para que sigas enganchado perdiendo el tiempo y des información sobre ti mismo para poder hacer campañas y vender anuncios. Y eso es muy potente.
Ya mostró su capacidad de manipulación cuando se dio el brexit. Meta vendió montones de datos ilegalmente, empresa que ha sido condenada reiteradamente por violar la privacidad y realizar actividades ilegales. Y todos usamos Facebook, Instagram y WhatsApp. Es muy difícil luchar contra eso. Débilmente, la Unión Europea intenta hacer algo contra ello. EEUU, que se beneficia directamente de todo esto y especialmente con Donald Trump, que solo quiere ganar dinero y ver cómo se beneficia a sí mismo, considera un ataque a la tecnología americana que se pongan limitaciones al comportamiento de las grandes empresas norteamericanas en Europa. Entonces, Europa hace algo pero muy lentamente.
Han tenido que darse casos conocidos de suicidio de adolescentes inducidos por algoritmos, por ejemplo, para que se intente frenar el uso por parte de algunas personas. Pero es bastante difícil de parar porque hay alguien ganando un dinero que nunca se había ganado en la vida. Cuando terminó el siglo XX, las empresas tenían mucho personal, mucha tecnología, grandes construcciones y fabricaban cosas, desde aviones a grandes petroleras. Ahora, todas las grandes empresas del mundo son mucho más grandes de lo que nadie ha sido jamás, pero con mucho menos personal. Todas pertenecen al campo tecnológico y están entrando en la IA. Eso no es nada fácil de frenar.
- ¿Y qué ventaja trae la IA a nivel social?
- Creo que la IA puede tener ventajas para las personas utilizada sabiamente. De forma inteligente puede aumentar la productividad y evitar muchas tareas que antes eran repetitivas. Y muchas personas obtienen beneficio personal por utilizarla. Pero esto tiene muchos efectos colaterales. Va a tener un efecto grande sobre el empleo, porque muchas actividades que antes hacía un joven abogado en un despacho, que era recoger datos, hacer resúmenes y comparar casos ahora las hace una IA mucho más rápido, con lo cual no los van a contratar y los jóvenes lo van a empezar a tener mucho más duro. Sin embargo, es posible que el despacho de abogados gane más dinero, porque tendrán más clientes con menos personal.
Entonces, habría que darse cuenta de que se está produciendo un beneficio enorme que se está acumulando en muy pocas manos y viene de inversión pública. Todo eso es posible porque se creó internet, el GPS, porque se hizo un esfuerzo por digitalizar la información y todas las universidades y centros de investigación del mundo empezaron a gastarse dinero en digitalizar los libros para que estuvieran disponibles. Y también porque con dinero público y de investigación muchos matemáticos, especialistas en ciencias de la computación, estadísticos y expertos de otras áreas han trabajado en los métodos que ahora están debajo de lo que están utilizando unas pocas empresas.
Pero el problema es que estas compañías han alcanzado tal poder que son casi inatacables. Todas ellas sin excepción han recibido críticas judiciales por abuso de competencia, por utilizar los datos de forma ilegal. Hasta Google, que parecía más inmune, es la mayor empresa de publicidad del mundo vendiendo tus datos. Casi el 10% de lo que se gasta el mundo en publicidad se lo llevan ellos. Estamos ante fenómenos nuevos con los que no sabemos muy bien cómo lidiar. Y la única forma es regularlos, como pasó con Uber. Estamos creando un mundo muy complicado.
- ¿Qué impacto tiene el uso de la IA en las empresas?
- Es también un escenario complicado. Una pyme empieza a usar la IA, empieza a dar sus datos a un sistema que desconoce y que va a utilizar sus datos para dárselos a un siguiente para aconsejar a su competencia de al lado. Hay que hacerlo con mucho cuidado. No quiere decir que no pueda utilizarlo de forma inteligente, pero tiene que tener cuidado con lo que pregunta y cómo lo pregunta, mantener cierta privacidad en sus políticas y sus decisiones y ser capaz de aprovechar lo positivo que tiene sin entregarse en los brazos de un sistema del que luego va a ser esclava.
Al final, cuando uno empieza a delegar en la IA, empieza a echar gente y luego ha hecho tanto con un sistema que no se puede ir a otro. Y, además, el sistema hará todo lo posible por engancharte. Los sistemas informáticos no tienen voluntad, sino un objetivo que hemos fijado los humanos para ellos. Y el objetivo es ganar el máximo de dinero. Hay que tener cuidado, no lanzarse directamente a usar la IA y aumentar la formación de las personas que tienen, para que la puedan usar de forma inteligente y la empresa pueda ser sostenible en el tiempo.
Que si surge algo, tal vez creado por esa misma IA, en una empresa de al lado que te echa del mercado te encuentras sin posibilidad de reaccionar. Como tantas otras cosas en la vida, no quiere decir que sea algo malo. Que se generara tanta riqueza podría ser algo bueno si lo distribuyéramos, y consiguiéramos tener una sociedad más justa y razonable. Pero para eso tiene que intervenir el Estado. Tenemos que convencernos de que los impuestos son muy importantes y que nos han llevado a países civilizados como aquellos en los que vivimos y que es importante confiar en lo público y crear un sistema que funcione bien. Y además, la cooperación internacional.
- ¿Puede hacer algo la Unión Europea con una estrategia propia de IA?
- La Unión Europea es un espacio grande y potente, aunque está perdiendo terreno a toda velocidad frente a EEUU y China porque no invertimos en IA. EEUU invierte al año miles de millones, igual China, y nosotros 30. No podemos generar los recursos para hacer algo común. Podríamos recuperar la carrera. Ahora solo hay algo que sobresale un poco, que es el sistema Mistral. En España ahora dicen que quieren desarrollar un sistema de IA en español, que es ridículo porque ya lo del idioma es irrelevante. Es un problema resuelto hace mucho tiempo. Habría que crear un sistema europeo que pudiera competir, y es posible porque aquí hay inteligencia y capacidad para hacerlo. Simplemente habría que poner recursos públicos. Pero es muy difícil porque al final cada país siempre está viendo proporciones, y no ponen a los más inteligentes de la UE.
- ¿Qué cuestiones tendría que reforzar este sistema? ¿Privacidad, ética…?
- Tendríamos que controlar muchos aspectos. Debería ser un sistema que fuera abierto, colaborativo y que pudiera competir. Al final todos vamos a usar IA, el problema es si la utilizamos bien y si los beneficios de utilizarla se reparten o si se concentran en unos pocos y los demás vamos a padecer las consecuencias negativas y para eso haría falta una actuación coordinada de los países europeos.
- ¿Qué cree que le falta a la regulación de IA europea?
- La regulación no está mal. Ha empezado a regular algo y algunas cosas que se están haciendo en China o EE. UU. aquí no es tan fácil hacerlas. Pero lo que sería necesario es invertir en desarrollar una IA responsable entre todos los países de Europa. Y se podría hacer utilizando los impuestos para tomar parte de los beneficios que las grandes empresas americanas están obteniendo en Europa.
- ¿Cómo abordar la IA en su relación con los trabajadores?
- Esto se debe abordar porque va a tener un efecto enorme sobre el empleo. Muchas estimaciones dicen que entre el 40 y el 60% de los trabajos pueden desaparecer tal y como los vemos ahora. Siempre hay gente optimista que piensa que se crearán otros nuevos. Y es verdad que en algunas áreas puede que ocurra esto, pero bien pagados y de alta tecnología. Pero la mayoría de la población no tiene la formación y no es tan fácil acceder ni a ésta ni a ese tipo de trabajos. Hay muchas barreras para ello.
Esto no se achaca a la IA pero, por ejemplo, Amazon. Está destruyendo suavemente y sin que lo notemos el comercio minorista en las pequeñas ciudades en España y en el mundo. Porque es más cómodo pedirlo allí que bajar a la tienda, donde a lo mejor no lo tienen y te lo tienen que pedir. Todo eso está destruyendo un tejido social que hacía que la gente hablara, que hubiera una vida un poco más humana y que daba un trabajo digno con una calidad de trabajo razonable porque ellos eran sus propios dueños. Todo eso está desapareciendo.
Muchos de los hijos de estas personas escaparán yendo por otras vías pero otros muchos terminarán por ser repartidores de Amazon. Es muy distinto ser un repartidor de Amazon, que les ponen tal presión que muchos van con una botellita para hacer pis y sin futuro profesional, y ese tipo de trabajo lo vamos a ver en el futuro para gente que antes tenía una tienda, un trato con la gente y que llevaba una vida mucho más interesante. Hay muchas consecuencias mezcladas con todo esto, pero no parece que las perspectivas sean muy halagüeñas.
Lo que habría que hacer es invertir dinero en formación. ¿Y de dónde sale este dinero? Habría que gravar a las grandes tecnológicas y el uso de la IA. Una compañía que como consecuencia de la IA echa a parte de la plantilla y gana un 30% más, tendría que pagar muchos más impuestos, para que esto vuelva y se invierta en el bien común y se utilice para formar a jóvenes el día de mañana para que puedan incorporarse a empresas y desarrollar sus propios negocios. También habría que aumentar la competencia, porque todas las grandes empresas tecnológicas, todas sin excepción, han sido condenadas por utilizar prácticas ilegales para recortar la competencia. Además, esta gente con tanto dinero, también va a utilizar su poder para mantener su posición e intentarán convencerte con anuncios y campañas en redes sociales. El mundo cambia muy rápidamente y nosotros solo lo vemos pasar.
Un dato es que la desigualdad en Europa empezó a disminuir tras la Primera Guerra Mundial. Muy fuertemente después de la segunda, en los años 70-80 y en los 90 empezó a estabilizarse por todos los fenómenos que han generado la IA, que son los datos o los algoritmos y la mejor computación y la web para llegar a todos los lugares. Luego, ha ido aumentando en todo el mundo. En EE. UU., en el año 2000, se ha incrementado hasta la actualidad. Ha retrocedido un siglo. Ahora hay la misma desigualdad que había hace 100 años. En Europa, entre 30 y 50 años. España no es de los peores. Pero ya el mundo es distinto y mucho peor, sobre todo para los jóvenes.
- ¿Tiene difícil solución el mundo en este momento?
- Tiene solución si cambiamos el chip, porque también pasan cosas maravillosas como ha ocurrido en Serbia. Había un dictador que controlaba todo y era un experto en la manipulación. La gente ya no creía en nada. Y hubo un movimiento estudiantil con manifestaciones y este movimiento decidió presentar a sus propios candidatos, y buscaron a gente razonable de la vida civil y ocultaron sus nombres. Fueron a las elecciones y ganaron. Hay que tener esperanza y las cosas han cambiado muchas veces a lo largo de la humanidad. Nuestra capacidad como especie es ser capaces de identificarnos con algo que puede ser muy grande, abarcar a todo el mundo y al final genera una capacidad de emocionarnos y cambiar las cosas. Eso es lo que tenemos que aprovechar.
- ¿Qué se debe cambiar de la educación para capear este escenario?
- Tenemos que invertir mucho más y hacerlo mejor. ¿Cómo podríamos conseguir que la IA ayudara a los estudiantes? Si pusiéramos mucho énfasis en el proceso y el estudiante tuviera que explicar y hablar mucho con sus compañeros y el profesor para ver que entiende las cosas y ya, cuando tuviera que hacer algo concreto que es la parte más rutinaria, ahí podría utilizar la IA. No cuando son pequeños, pero a partir de cierta edad. Para eso, hace falta poner más recursos, motivar a los maestros, mejorar la enseñanza pública y eso es lo que no estamos haciendo. La clave del futuro siempre es la educación. Eso se lleva diciendo desde el siglo XVII y siempre es verdad.
- ¿Hay alguna esperanza de que Europa tenga su propia IA?
- La esperanza baja porque no está invirtiendo. Todas las academias de ciencia de la UE, yo soy miembro de la Academia de Ciencia de España y soy el presidente de la Comisión de IA, junto con comisiones de otros países mandamos una carta a la presidenta de la UE diciendo que Europa debía hacer algo por eso y que las academias y centros de investigación estaban dispuestos a apoyar. Se respondió con una carta y han hecho un programa llamado Raise que dicen que se van a invertir más de 100 millones pero no se sabe ni en qué ni en cuántos años. Una payasada, en mi opinión. No se ve un esfuerzo serio y decidido detrás por cambiar las cosas. Es verdad que cada país mira por lo suyo y se pregunta qué va a ganar, pero aquí, o ganamos todos en esta batalla o perdemos todos. En Europa cada vez contamos menos porque representamos una parte más pequeña del mundo. Somos un continente con muy baja demografía y nos oponemos a la inmigración, que es lo único que nos puede salvar para salir adelante. Y nos oponemos férreamente para mantener nuestro nivel de vida, y lo tenemos un poquito difícil. Vamos a ser un parque temático, como muy geriátrico, donde se vivirá razonablemente pero sin ningún peso en el mundo, que lo decidirán otros.
- ¿Cómo interpreta las advertencias sobre riesgos extremos que lanzan algunas compañías de IA?
- Todos quieren que paren los otros. Empiezan a ser conscientes de que si sus sistemas hacen algo abiertamente ilegal les pueda llegar alguna penalización o un cierto desastre costosísimo. O que haya una crisis financiera gigantesca por la manipulación de bolsas importantes en el mundo. Empiezan a ver que ese riesgo es posible. Porque a escala pequeña han empezado a crear agentes, que les pones un objetivo y empiezan a operar en el mundo real. Hasta ahora, la IA te proporcionaba información pero no hacía nada. Ahora, Meta, ha sacado unos agentes que se llaman Musa, que le puedes dejar control sobre tus finanzas y se compromete a que pagues menos. A buscarte la mejor compañía eléctrica, a comprar el traje más barato, pero le das acceso a la cuenta bancaria y toma decisiones por su cuenta. Eso es peligrosísimo, tanto que Amazon ha prohibido a Meta entrar en sus sistemas y su intención es traerlo a España.
- ¿Dónde no deberíamos delegar en una inteligencia artificial?
- No le deberíamos dejar entrar en nuestros valores y en lo que es importante para nosotros como humanos. Está muy bien que nos haga resúmenes, que nos recopile textos legales, que nos diga cómo resolver un problema técnico importante, pero no entrar en nuestros valores y tener claro que debe estar subordinada a los valores que preconizamos como buenos para la humanidad. Y para eso deberíamos entenderla mejor y controlarla mejor. Y esto supone interferir con lo que tenemos y las empresas, de entrada, no quieren hacer esto bajo ningún concepto. Y luego hay toda una graduación de personas en las empresas preocupados por el futuro de la humanidad, que todos ven una parte, pero también es un negocio que da mucho dinero y el que lo haga mejor se va a llevar todo el pastel. Porque es como si tuviéramos un mundo donde se está creando algo muy importante que está aglutinando más recursos y beneficios que ningún otro sector del mundo y eso lo están controlando cuatro. Entonces hay que regular a esos cuatro y quitarles ese poder.
