Acercándonos a la causa de los ejemplos adversarios

Proyecto de Investigación Científica - SBPLY/21/180501/000025 – 118.716,42 €.

Grupo de investigación: VISILAB – Grupo de Vision y Sistemas Inteligentes. Universidad de Castilla-La Mancha/ETS Ingeniería Industrial Ciudad Real

I.P.1:  Dr Óscar Déniz Suárez

I.P.2:  Dra. Olga Bueno García

Finalidad del Proyecto

El proyecto se dedica al estudio de las debilidades de la IA, concretamente del fenómeno conocido como “ejemplos adversarios” (ver primera imagen en este documento): pequeñas variaciones de una imagen que son clasificadas con resultados completamente erróneos por la IA, aun cuando la diferencia entre el ejemplo original y el alterado es prácticamente imperceptible por nosotros los humanos

Objetivos

1.- Verificar la hipótesis de que el problema de los ejemplos adversarios se debe al inevitable compromiso que en aprendizaje automático existe entre generalización y ajuste a las muestras de entrenamiento.

2.- Proponer métodos de aprendizaje automático que soslayen, en la medida de lo posible, el mencionado compromiso que en aprendizaje automático existe entre generalización y ajuste a las muestras de entrenamiento.

3.- Confirmar la existencia de ejemplos adversarios en situaciones reales, sin que haya una optimización artificial. Modelización de este tipo de ejemplos adversarios.

4.- Difundir tanto la motivación del proyecto como los resultados del mismo, tanto en los foros de ciencia como entre el público en general.

Resultados

Desde el punto de vista científico-técnico el proyecto se ha desarrollado satisfactoriamente. Es especialmente destacable la productividad conseguida en cuanto a publicaciones JCR. En las investigaciones realizadas se ha conseguido caracterizar mejor el problema de los ejemplos adversarios, objetivo principal del proyecto.

Impacto científico, técnico o social

• 6 publicaciones en revista (5 de ellas JCR)
• 2 publicaciones congresos internacionales
• 1 tesis doctoral leída (Sobresaliente Cum Laude, mención internacional)