Dois grandes desafios são o overfitting (quando o modelo se ajusta muito bem aos dados de treino e performa mal em dados novos) e a complexidade computacional. Técnicas como regularização e dropout, além de estratégias de otimização, são utilizadas para mitigar esses problemas.