Abordando el problema de la explicablilidad en redes neuronales artificiales mediante lógica simbólica y algoritmos genéticos
Ficha técnica
| Título: | Abordando el problema de la explicablilidad en redes neuronales artificiales mediante lógica simbólica y algoritmos genéticos |
| Alumno: | Gabriela Pérez |
| Inicio: | 1 Marzo 2019 |
| Dirección: | Claudia Pons y Roxana Giandini |
| Co-Dirección: | Marcelo Frias |
| Participantes (del LIFIA) | Gabriela Perez, Claudia Pons |
Resumen
Como modelo de caja negra debido a su estructura no lineal multicapa, las redes neuronales profundas son criticadas por no ser transparentes y sus predicciones no rastreables por los humanos. Además, los modelos aprenden de conjuntos de datos a menudo con sesgos o contenido discriminatorio contaminado. Nuestra propuesta consiste en generar especificaciones formales simbólicas para las redes neuronales en la forma de Pre y Post condiciones, expresadas en un lenguaje familiar a los desarrolladores de software, como OCL y JML. Para el descubrimiento de la especificación formal se utilizará la técnica de algoritmos genéticos.
Publicaciones
Proyectos
Técnicas de Inteligencia Artificial Neuro-simbólica. Financiado por Comisión de Investigaciones Científicas y Facultad de Informática y Universidad Abierta Interamericana. Dirigido por Claudia Pons. CoDirigido por Roxana Giandini. Duración: 1/1/2019-31/12/2023