Abordando el problema de la explicablilidad en redes neuronales artificiales mediante lógica simbólica y algoritmos genéticos

Ficha técnica

Resumen

Como modelo de caja negra debido a su estructura no lineal multicapa, las redes neuronales profundas son criticadas por no ser transparentes y sus predicciones no rastreables por los humanos. Además, los modelos aprenden de conjuntos de datos a menudo con sesgos o contenido discriminatorio contaminado. Nuestra propuesta consiste en generar especificaciones formales simbólicas para las redes neuronales en la forma de Pre y Post condiciones, expresadas en un lenguaje familiar a los desarrolladores de software, como OCL y JML. Para el descubrimiento de la especificación formal se utilizará la técnica de algoritmos genéticos.

Publicaciones

-2025-

Perez, Gabriela, Mostaccio, Catalina, Maltempo, Giuliana and Antonelli, Leandro. 2025. Evaluation of natural language processing models to measure similarity between scenarios written in Spanish. Cadernos do IME - Série Informática.   bib

-2024-

“Evaluación de modelos de procesamiento de lenguaje natural para medir similaridad entre escenarios escritos en español”, Gabriela Perez, Catalina Mostaccio and Leandro Antonelli, Workshop in Requirements Engineering (WER 2024), Universidad de Belgrano, Argentina, 2024. 

Proyectos

Técnicas de Inteligencia Artificial Neuro-simbólica. Financiado por Comisión de Investigaciones Científicas y Facultad de Informática y Universidad Abierta Interamericana. Dirigido por Claudia Pons. CoDirigido por Roxana Giandini. Duración: 1/1/2019-31/12/2024