El proyecto TANGO recibe 8 millones de euros por parte de la Unión Europea

Parque Científico y Tecnológico de Bizkaia

El nuevo proyecto financiado por la UE, que arrancará en otoño de 2023 con 21 organizaciones asociadas de 9 países europeos

El objetivo es desarrollar una nueva generación de sistemas de IA centrados en el ser humano y reforzar el liderazgo de Europa en este ámbito

Basque Center for Applied Mathematics única entidad del Estado que participa en el proyecto

La inteligencia artificial (IA) encierra un enorme potencial para mejorar las decisiones humanas y evitar la sobrecarga cognitiva y los sesgos en escenarios de alto riesgo. Hasta la fecha, sin embargo, la adopción de sistemas de apoyo basados en IA ha sido mínima en entornos como hospitales, tribunales y administraciones públicas.

La UE reconoce la necesidad de fomentar la investigación y la innovación en este campo, y en marzo TANGO obtuvo 8 millones de euros para desarrollar los fundamentos teóricos y el marco computacional de la toma de decisiones sinérgica hombre-máquina, allanando el camino para la próxima generación de sistemas de IA centrados en el ser humano. El nuevo proyecto financiado por la UE, que arrancará en otoño de 2023 con 21 organizaciones asociadas de 9 países europeos, está llamado a reforzar el liderazgo de Europa en este campo.

TANGO sostiene que para que la IA desarrolle plenamente su enorme potencial en términos de impacto positivo sobre las personas, la sociedad y la economía, debemos replantearnos por completo la forma en que se conciben los sistemas de IA. Las personas deben sentir que pueden confiar en los sistemas con los que interactúan, en términos de fiabilidad de sus predicciones y decisiones, capacidad de los sistemas para comprender sus necesidades y garantías de que su objetivo es realmente ayudarles y no un tercero no declarado. En otras palabras, debe establecerse una simbiosis entre humanos y máquinas, en la que todas las partes estén alineadas en términos de valores, objetivos y creencias, y se apoyen y complementen mutuamente para alcanzar objetivos más allá de lo que cada una sería capaz de hacer por sí misma.

«¡Hacen falta dos para TANGO! Nuestra perspectiva es que un profundo entendimiento mutuo entre humanos y máquinas es esencial para el desarrollo de sistemas de IA realmente eficaces e innovadores que puedan ampliar las capacidades humanas de razonamiento y toma de decisiones», afirma el coordinador del proyecto, Andrea Passerini.

El impacto potencial del marco TANGO en los individuos y la sociedad se evaluará en un conjunto de casos de uso real de gran repercusión social, apoyo a las mujeres durante el embarazo y el posparto, apoyo a los equipos quirúrgicos en la toma de decisiones intraoperatorias, apoyo a los gestores y solicitantes de préstamos en los procesos de decisión sobre la concesión de créditos y ayuda a los responsables de las políticas públicas en el diseño de incentivos y la asignación de fondos. El éxito de estos casos prácticos fomentará la adopción de TANGO como marco de referencia para desarrollar una nueva generación de sistemas de IA sinérgicos y reforzará el liderazgo de Europa en IA centrada en el ser humano.

El profesor Novi Quadrianto (Universidad de Sussex – BCAM) colaborará en el proyecto desde el Centro Vasco de Matemática Aplicada. «Estamos súper emocionados de empezar a trabajar en este importante proyecto con excelentes miembros del consorcio en el que lideraremos el desarrollo de modelos fiables con consideraciones de imparcialidad y sesgo y traduciremos esos modelos fiables en una toma de decisiones ética y fiable». El trabajo en el BCAM se llevará a cabo como parte del BCAM Severo Ochoa Strategic Lab on Trustworthy Machine Learning«, añade el profesor Quadrianto.

Consorcio

Entre las 21 organizaciones asociadas hay universidades, centros de investigación, instituciones, fundaciones y empresas de 9 países europeos. 7 son de Italia (Universidad de Trento -que también coordina la red- , Universidad de Pisa, Consejo Nacional de Investigación de Italia, Scuola Normale Superiore, Fondazione Bruno Kessler, U-Hopper srl, Intesa Sanpaolo), 4 de Serbia (The AI Research and Development Institute of Serbia, SHARE Foundation, A 11-Initiative for Economic and Social Rights, Ministerio de Bienestar Familiar y Demografía), 2 del Reino Unido (University of Swansea, University of Warwick), 2 de Bélgica (Center for European Policy Studies, EIT Digital), 1 de Francia (Université Paris Cité) y 1 de Irlanda (Carr Communications), Suecia (Surgical Science Sweden AB), Alemania (University Hospital Heidelberg) y España (Basque Center for Applied Mathematics).