IA responsable: diseñar sistemas confiables y seguros

Este proyecto se ubica dentro del área general de la "IA verificada" cuyo objetivo es diseñar sistemas de IA que tengan garantías sólidas de corrección con respecto a requisitos especificados matemáticamente. Concretamente, se centra en la aplicación de técnicas fundadas en teorías lógico-matemáticas que habilitan la especificación del comportamiento del sistema y la demostración rigurosa de propiedades, en particular la extracción de modelos, la verificación basada en modelos y la síntesis de controladores. Los resultados proveerán herramientas que contribuirán a la “IA responsable” en dos aspectos, explicabilidad y seguridad. En efecto, la extracción de modelos de redes neuronales artificiales es una técnica de explicabilidad, mientras que la verificación y síntesis fundadas en métodos formales permiten la detección temprana de errores o usos inapropiados y la posterior corrección de los errores y prevención de los usos indebidos. Estas herramientas serán disponibilizadas en forma de código de uso libre y público. El proyecto contribuirá a la formación de recursos humanos altamente capacitados en el contexto de una estrecha colaboración entre dos equipos rioplatenses, apoyándose en el fortalecimiento y la consolidación de la integración regional e internacional.