Desarrollan una herramienta para acabar con los sesgos de discriminación en la inteligencia artificial

MURCIA (EP). El centro tecnológico ITI celebra el Día Mundial de Internet con avances en el proyecto europeo 'Aquitas', cuyo objetivo es garantizar que la Inteligencia Artificial (IA), no solo sea ética y legal, sino también igualitaria.

El creciente uso de herramientas de la IA ha generado preocupaciones sobre el potencial surgimiento de sesgos y discriminación. En esta línea, los desarrolladores de IA pueden haberse basado en datos históricos a la hora de crear las plataformas, lo que se podría traducir en injusticias.

La iniciativa, financiada por la Comisión Europea, pretende desarrollar un entorno abierto para que los desarrolladores y usuarios que utilicen la Inteligencia Artificial puedan experimentar de manera controlada.

"Para garantizar una IA justa que refleje los valores europeos y sea fiable, muchas herramientas de IA que pertenecen a actores públicos y privados deben evaluarse, repararse y, si es necesario, reemplazarse", destaca, en un comunicado, Santiago Cáceres, gestor del proyecto en el ITI.

Sin embargo, los costes de reemplazar las herramientas de IA existentes son altos y poco realistas. Por ello, Aequitas creará una infraestructura operativa que sea capaz de detectar, mitigar y reparar posibles problemas de injusticia en las herramientas de IA, así como definir nuevas metodologías que eviten sesgos, para que los nuevos sistemas de IA se desarrollen de acuerdo con los principios justos por diseño.

Desde el organismo destacan que la noción de equidad también está socialmente determinada, y puede diferir entre cultura y grupos sociales e incluso dentro de ellas. En esta línea, el consorcio Aequitas ha incorporado asociaciones que representan a diversos grupos socialmente vulnerables y organizaciones con intereses específicos, con el fin de recabar sus puntos de vista y experiencias desde múltiples perspectivas.

De este modo, Aequitas contribuirá a elevar la conciencia social, especialmente entre las comunidades LGBTIQ+ y las mujeres, quienes se encuentran entre los grupos más perjudicados por los sesgos y la injusticia derivados de la IA. Asimismo, se dirigirá a los grupos socioeconómicamente vulnerables que enfrentan un riesgo significativo de desigualdad digital, como niños y ancianos.

Según Emilio Insfran, profesor de la Universitat Politècnica de València (UPV) y director del grupo de Ingeniería del Software y Sistemas de Información (ISSI-UPV), "este proyecto proporcionará contenidos informativos para la recualificación y capacitación de profesionales en empresas y organismos públicos".

En concreto, los servicios desarrollados a través de Aequitas estarán disponibles para la ciudadanía en general mediante la plataforma AI-on-demand. El funcionamiento de este sistema consiste en que cada herramienta, conjunto de datos y caso de uso puede ser etiquetado con un nivel de equidad.

Herramienta independiente

Además, la plataforma de experimentación controlada también estará disponible como una herramienta independiente y descargable para empresas y entidades públicas con el objetivo de que exploren diversas dimensiones. Esto les permitirá evaluar y reparar sus herramientas de IA de forma más eficaz.

Coordinado por la Universidad de Bolonia, participan en el consorcio otras entidades españolas como la Universitat Politècnica de València, la Universidad de la Laguna y la Asociación para el Desarrollo Económico y Social Rayuela.

Finalmente, el proyecto Aequitas corresponde al número de expediente 101070363 está financiado por la Comisión Europea