El aprendizaje profundo a veces se considera una “caja negra”, lo que significa que puede ser difícil entender el comportamiento del modelo del aprendizaje profundo y cómo toma sus decisiones. La explicabilidad busca facilitar las explicaciones del aprendizaje profundo. Hay investigaciones en curso acerca de la evaluación de diferentes métodos de explicación.