Esta herramienta tiene como objetivo analizar, debatir y brindar orientación en el desarrollo y uso responsable de la IA para promover un enfoque humano y ético en su implementación.
Además, prestará especial atención a identificar patrones y desigualdades relativos a la movilidad y la diversidad; concienciar y sensibilizar sobre posibles barreras; así como incorporar reflexiones hacia una movilidad inclusiva.
El Observatorio se desarrolla bajo la premisa de que la IA no solo debe ser una herramienta eficiente, sino también una fuerza positiva que beneficie a toda la humanidad, reduciendo los riesgos que puedan derivarse de su uso. El observatorio actuará como un centro de estudio y análisis, reuniendo a expertos en ética, tecnología, economía, derecho, sociología y otras disciplinas relevantes para explorar las complejas interacciones entre la IA y la sociedad.
El sesgo algorítmico, privacidad y protección de datos, responsabilidad corporativa, ética en la toma de decisiones autónomas, interacción humano-IA, ética en investigación y desarrollo de IA y gobernanza y regulación son los aspectos sobre los que se articulará el estudio del proyecto.
La constitución de este Observatorio y Think Tank se ha formalizado hoy con la firma de un convenio de colaboración. El encuentro, que ha tenido lugar en el rectorado de la UPV, ha contado con la participación de Sergio Vázquez, presidente de Ineco; José Capilla, rector de la UPV, y Nuria Lloret, catedrática de la UPV y directora del Observatorio.
En palabras del presidente de Ineco: “este convenio no solo es muestra del valor que para Ineco tiene el conocimiento que aportan las universidades públicas españolas sino también de nuestro compromiso con el desarrollo de una tecnología con alma”.
El rector de la UPV, que ha presidido el acto, ha señalado durante el mismo que la IA “es algo que ha llegado y nos va a facilitar la vida. No debemos tenerle ningún temor, lo que tenemos que hacer es incorporarla. Pero sabemos que los modelos generativos tienen sus sesgos y que hay que solucionar esos problemas. En ese sentido, bienvenido sea un Observatorio como el que hoy presentamos, que va a velar por la calidad del uso de la IA evitando problemas de discriminación y favoreciendo la igualdad y la diversidad”.
Por su parte Nuria Lloret, subdirectora del Instituto de Investigación de Diseño y Fabricación (IDF), ha indicado que, si bien el avance y la expansión de la IA han revolucionado la sociedad en múltiples aspectos, desde la automatización de tareas hasta la toma de decisiones en áreas cruciales como la medicina, la educación, las finanzas o la ciberseguridad, “este progreso tecnológico también plantea desafíos éticos y sociales que deben abordarse de manera exhaustiva. Por ello nace este Observatorio”, ha destacado.
Lloret, elegida para el Observatorio, es referencia internacional en el ámbito de la diversidad en los entornos académicos y empresariales, además de una reconocida experta en la mentorización de mujeres jóvenes hacia los estudios STEAM. No en vano, la catedrática de la UPV ha sido profesora invitada de la New York University y del Tecnológico de Monterrey, ha dirigido más de 50 proyectos de investigación a niveles nacional y europeo, y es la fundadora de la plataforma “Atenea: Women in Art and Stem” y miembro de la plataforma de Estudios de Genero de la Universidades Españolas.
Entidades participantes
El Observatorio en Inteligencia Artificial y Diversidad cuenta con la Asociación de Mujeres Empresarias y Profesionales (EVAP), Woman in AI y la Fundación Diversidad como entidades colaboradoras especializadas en diversidad. También participarán la red de mujeres mINerva y la red de diversidad IRIS, ambas nacidas en Ineco.
Estas entidades testearán las herramientas de IA en una primera fase “sin conocimiento” y, posteriormente, realizarán una formación para desarrollar la segunda parte del testeo. Los datos recopilados serán analizados para realizar comparativas de uso “con y sin conocimiento en materia de inteligencia artificial”.
Una visión holística para la movilidad del futuro
Este acuerdo se enmarca dentro de la creación de la red iCampus de Ineco, un programa novedoso para el fomento de la investigación científica-técnica, la transferencia de conocimiento y la interacción entre expertos de la comunidad científica, técnica y empresarial.
Ineco ya cuenta con convenios con otras universidades, como la Universidad de Cantabria, relativo a la caracterización de la resiliencia de materiales aplicados en la infraestructura ferroviaria; o la Universidad de Santiago de Compostela, en Galicia, para el desarrollo de una herramienta de inteligencia artificial que optimice el diseño de obras lineales de transporte, fundamentalmente, carreteras y líneas de ferrocarril. En este marco, la compañía también colabora con la Universidad Politécnica de Madrid a través de su Escuela Técnica Superior de Ingenieros de Caminos, Canales y Puertos en el Máster Digital Twins for Infraestructures and Cities, en el que mentoriza un caso de uso de gemelo digital para analizar el impacto de los grandes eventos en la movilidad de las grandes ciudades.
La red iCampus se ampliará próximamente a otros centros de investigación para avanzar en áreas estratégicas para la movilidad y la digitalización como el ruido en puertos, o la influencia del cambio climático en la superestructura de vía.