SILLÓN OREJERO

Mentir al hombre para que le mienta a la máquina y que la IA nos mienta a todos

Dos académicos estadounidenses han analizado el recorrido de las mentiras en la era contemporánea. Desde las intoxicaciones de la opinión pública deliberadas, a los errores matemáticos y estadísticas mal hechas que se perpetúan "como zombis", pasando por el mayor problema que nos espera de cara al futuro: la programación de algoritmos de Inteligencia Artificial, un modo de potenciar sesgos humanos si no se hace bien y, sobre todo, la estupidez

6/12/2021 - 

MURCIA. En los escenarios futuristas o de ciencia ficción la noble tarea de compartir el saber humano y hacerlo accesible a todo el mundo siempre ha sido presentada en modo positivo. Es decir, a nadie se le pasaba por la cabeza que tener la herramienta para poner en contacto a todos los seres humanos y crear una inteligencia colectiva, además de máquinas con capacidad para hacer algo parecido a pensar por sí mismas, iba a estar completamente influenciado y alterado por una de las cualidades más importantes de la condición humana: ser gilipollas.

En un sentido literal, con estos mismos términos, lo han expresado los científicos Carl T. Bergstrom y Jevin D. West en su obra Contra la charlatanería (Capitán Swing, 2021) Se trata de un ensayo centrado en todo lo que consideran bullshit, gilipolleces, pero aplicado a bulos, fake news, memes de agitprop y demás morralla que inunda las redes, sirve de objeto arrojadizo y la alimentan los propios medios, a veces por pura ignorancia, otras porque es propaganda al servicio del poder y quita y pone rey, además de ayudar a su señor. 

La obra parte del ejemplo del médico que metió la pata con un estudio sobre la vacuna del sarampión que la relacionaba con el autismo y tuvo las consecuencias que conocemos bien, mucha gente decidió no vacunar a sus hijos, la enfermedad resurgió y aumentó la mortalidad. El estudio equivocado había aparecido en The Lancet, nada menos. Hubo que gastar millones de dólares en más estudios que demostraban el error original, pero, como bien sabemos, el movimiento antivacunas sigue campando por sus respetos. Esta es una demostración palmaria de lo que ocurre hoy cuando la información o los datos se manejan erróneamente.

Una vez concebida la mentira o la conclusión errónea, las redes funcionan solas para llevarla a todas partes con la colaboración inestimable, como trabajo colectivo, de los usuarios y los medios. Los usuarios tienden a compartir todo lo que confirma su ideología o sus sesgos, aunque en muchos casos lo hacen sin leer lo que están difundiendo. Se quedan en el titular. Un estudio citado que analiza la información que circula por Estados Unidos cifra las noticias falsas que circulan en este país en un 2,6%. Parece poco, pero si imaginamos que cada estadounidense lee una noticia al día, ocho millones leerían una que es falsa.

Los autores, además, han encontrado que los titulares clickbait son los que no hablan de hechos, sino de experiencias emocionales. Por ejemplo, la frase en titulares que más clicks cosecha en Facebook, doblando a la segunda, es "Esto te" seguido de "romperá el corazón", "dejará con la boca abierta", etc... Digamos que la soñada inteligencia colectiva del siglo XXI resulta que se mueve a golpes de impulsos emocionales básicos o primarios.

¿Cuál es el resultado de combinar falsedad y emociones elementales? Un ejemplo lo tuvimos en La India en 2018, cita el ensayo. Se extendió el bulo con vídeos falsos de que bandas organizadas de extranjeros estaban secuestrando niños. La noticia se hizo viral mientras una familia de turistas buscaba un templo en un pueblo. Se bajaron del coche a preguntar por su ubicación y los lugareños interpretaron que eran de esa banda de malhechores e iban a por sus hijos. Les desnudaron y les dieron una paliza con barras de hierro y palos de madera. Murió un miembro de la familia y el resto quedaron desfigurados de por vida.

A gran escala es más complicado reproducir fenómenos de este tipo, pero la intoxicación de la información electoral que llevó al poder a Trump ha sido puesto frecuentemente como ejemplo. El propio Obama llegó a hablar de que no era solo la posible injerencia rusa, es que unos adolescentes en Macedonia habían creado 150 sites de noticias falsas con gran éxito. Las metían en redes y si se hacían virales se forraban con los ingresos de la publicidad. Igual para un medio convencional no serían grandes cantidades de dinero, pero podían llegar a hacer cinco mil euros al mes en un país con un sueldo medio de 350 euros. Su noticia estrella fue que el papa Francisco había apoyado públicamente a Donald Trump. El bulo hizo un millón de interacciones en Facebook, la noticia más vista ese año del New York Times logró 370.000.

Con los números, inocentemente, también se producen muchos bulos aunque no tengan mala intención. No pocos de ellos vienen de la mala traducción de los billones del inglés. Hay un bombardeo continuo cada día de estadísticas muy cuestionables o realizadas con datos estadísticamente no significativos, aunque se cree que sí lo son. Fenómenos causa-efecto harto cuestionables, como por ejemplo que el vino mejora la salud cardiovascular o que los arándanos previenen contra el cáncer, así como la mejora que supondrán bajadas de impuestos que en realidad afectan a muy pocos, también se difunden con fruición.

Por otra parte, en Estados Unidos también hay un problema con las regulaciones por datos o ratios. Por ejemplo, cuando estas tuvieron que ver con el SAT, el examen para el acceso a las universidades, los campus empezaron a aceptar solicitudes a sabiendas de que las iban a rechazar para disminuir el porcentaje de elegidos y aumentar el caché de los centros vendiendo que ahí no entra cualquiera, pero solo tuvieron que aceptar a más gente con el objetivo de rechazarla. Ejemplos como este hay en todo su sistema económico, con razón el lema dice que cuando una medida se convierte en un objetivo deja de ser buena medida.

No obstante, hablamos de un fenómeno que ya es antiguo en las redes sociales. Todo el mundo está alerta contra este tipo de noticias, sobre todo ante las que puedan llegar del grupo rival ideológico. El problema que se nos viene encima es el relacionado con los algoritmos y la Inteligencia Artificial. Hay que tener en cuenta que ya es frecuente que los currículums que llegan a una empresa sean cribados por un programa de ordenador y si este tipo de herramientas se llevan a otros campos legales puede tener consecuencias nefastas. En Amazon quedó demostrado que el algoritmo de contratación confirmaba los prejuicios de los directivos de recursos humanos. Si estos mostraban tendencia por contratar más hombres que mujeres, el algoritmo siempre elegía hombres. Aunque quitasen los nombres de los candidatos, el ordenador se las arreglaba para averiguar el sexo por otros datos del currículum que lo podían indicar. En este punto, la conclusión de los autores es palmaria:

"El aprendizaje automático y la inteligencia artificial viven y mueren según los datos que emplean. Con buenos datos, puedes diseñar algoritmos notablemente efectivos para hacer una traducción de un idioma a otro, por ejemplo. Pero no hay ningún algoritmo mágico que pueda convertir un tejido de lino en oro. No hay forma de compensar los datos no correctos que se introducen en la máquina. Si alguien dice lo contrario está soltando bullshit (...) La promesa de la IA estimula la actividad económica e inspira emocionantes tramas de ciencia ficción, pero también crea expectativas poco realistas, impulsa la investigación irresponsable tanto en la industria como en el ámbito académico, amenaza con extinguir cualquier esperanza de privacidad personal y favorece la proliferación de políticas engañosas". 

Si el gran arma que marcó el siglo XX fue la bomba atómica, capaz de desatar la destrucción partiendo de un átomo, en este siglo nos podemos encontrar en la encrucijada de alcanzar la distopía por el camino de expandir con una potencia desconocida algo muy nuestro: la estupidez.

Noticias relacionadas

SILLÓN OREJERO

¿Pero qué es realmente el anarquismo?

Por  - 

El movimiento estuvo presente desde las primeras luchas revolucionarias y obreras. Incluso fragmentos del pensamiento de Rousseau contenían importantes formulaciones que podrían considerarse de carácter anarquista. Las luchas intestinas entre los movimientos obreros les concibieron como ideología apartada del marxismo, y fueron exterminados tras conseguir los marxistas-leninistas el poder en Rusia. Perdieron, pero muchas de sus ideas ahora son dominantes e incluso están legisladas

next