Естественно, въезжать надо первый раз в страну, выдавшую визу. Не всегда это принципиально (у меня был давно случай, когда я с австрийской визой въезжала в Голландию, но там были нюансы...) , но вот в случае, когда потом едешь к немцам - похоже да. Они прям наизнанку выворачивают паспорт, чтобы убедиться, посещал ли страну, выдавшую визу, прежде чем приехать к ним.