Το 1939 ο Βατούτιν σχεδίασε σοβιετικές επιχειρήσεις για την Σοβιετική εισβολή στην Πολωνία (η οποία έγινε από κοινού με τη Γερμανία). Υπηρέτησε στη θέση του Αρχηγού του Επιτελείου της Νότιας Ομάδας του Κόκκινου Στρατού. Το 1940, υπό τη διοίκηση του Γκεόργκι Ζούκοφ, τα στρατεύματα της Νότιας Ομάδας εισέβαλαν στην Βεσσαραβία της Ρουμανίας καταλαμβάνοντάς την. Ο Στάλιν αντάμειψε τον Βατούτιν για την επιτυχημένη εκστρατεία προάγοντας τον σε αντιστράτηγο. Παράλληλα τον διόρισε στο σημαντικό αξίωμα του Διευθυντή της Διεύθυνσης Επιχειρήσεων του Γενικού Επιτελείου. Ο Βατούτιν δεν ήταν πλήρως έτοιμος για αυτή τη θέση: ενώ ήταν καινοτόμος και εργατικός, ήταν άπειρος και οι γνώσεις που είχε για την τέχνη των επιχειρήσεων και τη στρατηγική ήταν αφηρημένες. Ακόμα οι αγροτικές ρίζες του, η σχετικά νεαρή ηλικία του και η αφοσίωση στο κόμμα οδήγησαν στο να κερδίσει την εύνοια του Στάλιν. Ο Βατούτιν, μαζί με τους ανώτατους στρατιωτικούς του Κόκκινου Στρατού, απέτυχαν να προετοιμάσουν το στρατό για την γερμανική επίθεση της 22ας Ιουνίου 1941.