Un algoritmo es explicable cuando se puede interpretar y entender cómo ha obtenido sus predicciones o resultados. Se trata de una característica crucial, ya que estas herramientas hacen sus cálculos en base a grandes cantidades de datos relacionados entre sí, y los cálculos pueden ser muy sencillos o extremadamente complejos.