Inicio > Proyectos > AEQUITAS

AEQUITAS

ASSESSMENT AND ENGINEERING OF EQUITABLE, UNBIASED, IMPARTIAL AND TRUSTWORTHY AI SYSTEMS

DATOS BÁSICOS

Ámbito

Europeo

Fecha

01/11/2022 - 31/10/2025

Sector

Industria 4.0

Presupesto

3,493,990

Finanaciador

Website

Video

INFORMACIÓN DEL PROYECTO

DESCRIPCIÓN

Los sistemas de apoyo a la toma de decisiones basados en la IA se utilizan cada vez más en la industria, en los sectores público y privado y en la elaboración de políticas. Dado que nuestra sociedad se enfrenta a un aumento espectacular de las desigualdades y la discriminación interseccional, debemos evitar que los sistemas de IA amplifiquen este fenómeno, sino que lo mitiguen. Para confiar en estos sistemas, los expertos en la materia y las partes interesadas deben confiar en las decisiones. La equidad es uno de los principales principios de la IA fiable promovidos a nivel de la UE. Cómo se traducen estos principios, en particular la equidad, en requisitos técnicos, funcionales, sociales y legales en el diseño del sistema de IA sigue siendo una cuestión abierta. Tampoco sabemos cómo comprobar si un sistema cumple estos principios y repararlo en caso contrario. AEQUITAS propone el diseño de un entorno de experimentación controlada para que desarrolladores y usuarios creen experimentos controlados para - evaluar el sesgo en los sistemas de IA, por ejemplo, identificando las causas potenciales del sesgo en los datos, algoritmos e interpretación de los resultados, - proporcionar, cuando sea posible, métodos eficaces y directrices de ingeniería para reparar, eliminar y mitigar el sesgo, - proporcionar directrices de imparcialidad por diseño, metodologías y técnicas de ingeniería de software para diseñar nuevos sistemas libres de sesgo El entorno de experimentación genera conjuntos de datos sintéticos con diferentes características que influyen en la imparcialidad para una prueba en laboratorios. Casos reales de uso en los ámbitos de la atención sanitaria, los recursos humanos y los retos para grupos sociales desfavorecidos ponen a prueba la plataforma de experimentación y demuestran la eficacia de la solución propuesta. La plataforma de experimentación se integrará en la plataforma de IA a la carta para impulsar su adopción, pero una versión independiente permitirá realizar pruebas de equidad de los sistemas de IA en las propias instalaciones preservando la privacidad. AEQUITAS cuenta con un sólido consorcio formado por expertos en IA, expertos en los sectores de uso, científicos sociales y asociaciones de defensa de los derechos de las minorías y los grupos discriminados.

Los sistemas de apoyo a la toma de decisiones basados en la IA se utilizan cada vez más en la industria, en los sectores público y privado y en la elaboración de políticas. Dado que nuestra sociedad se enfrenta a un aumento espectacular de las desigualdades y la discriminación interseccional, debemos evitar que los sistemas de IA amplifiquen este fenómeno, sino que lo mitiguen. Para confiar en estos sistemas, los expertos en la materia y las partes interesadas deben confiar en las decisiones. La equidad es uno de los principales principios de la IA fiable promovidos a nivel de la UE. Cómo se traducen estos principios, en particular la equidad, en requisitos técnicos, funcionales, sociales y legales en el diseño del sistema de IA sigue siendo una cuestión abierta. Tampoco sabemos cómo comprobar si un sistema cumple estos principios y repararlo en caso contrario. AEQUITAS propone el diseño de un entorno de experimentación controlada para que desarrolladores y usuarios creen experimentos controlados para – evaluar el sesgo en los sistemas de IA, por ejemplo, identificando las causas potenciales del sesgo en los datos, algoritmos e interpretación de los resultados, – proporcionar, cuando sea posible, métodos eficaces y directrices de ingeniería para reparar, eliminar y mitigar el sesgo, – proporcionar directrices de imparcialidad por diseño, metodologías y técnicas de ingeniería de software para diseñar nuevos sistemas libres de sesgo El entorno de experimentación genera conjuntos de datos sintéticos con diferentes características que influyen en la imparcialidad para una prueba en laboratorios. Casos reales de uso en los ámbitos de la atención sanitaria, los recursos humanos y los retos para grupos sociales desfavorecidos ponen a prueba la plataforma de experimentación y demuestran la eficacia de la solución propuesta. La plataforma de experimentación se integrará en la plataforma de IA a la carta para impulsar su adopción, pero una versión independiente permitirá realizar pruebas de equidad de los sistemas de IA en las propias instalaciones preservando la privacidad. AEQUITAS cuenta con un sólido consorcio formado por expertos en IA, expertos en los sectores de uso, científicos sociales y asociaciones de defensa de los derechos de las minorías y los grupos discriminados.

CAPACIDADES TECNOLÓGICAS

Análisis de datos en tiempo real