Hay varios factores que pueden causar una experiencia de vídeo pobre. Sin embargo, el principal factor es una CPU lenta. Si este es el caso, prueba a deshabilitar otras aplicaciones que no estés usando para liberar recursos de tu PC.
Ya que VLC es de código abierto, hay una comunidad de usuarios grande que debate sobre problemas de reproducción de vídeos, entre otros problemas. Si deshabilitar otras aplicaciones no lo resuelve, puedes encontrar muchos foros que te ayudarán a resolver estos problemas.