Il 10 novembre 1938 il "Wehrkreis V" ("distretto militare V") costituì a Stuttgart, con organico tipico per il tempo di pace, lo stato maggiore della Panzer-Brigade 4 che fu affidato al "Generalmajor" Werner Kempf: la brigata aveva sotto di sé i Panzer-Regiment 7, articolato su tre battaglioni, e 8, su due battaglioni. A metà agosto 1939 questo organo di comando divenne lo stato maggiore di una Panzer-Division che non ebbe alcun numero, ma solo il nome "Kempf" dal cognome dell'ufficiale; ebbe anche la designazione alternativa di "Panzer-Verband Ostpreußen" ("Unità corazzata Prussia Orientale"). Come implicava questa seconda designazione, la divisione doveva essere schierata nell'omonima regione, separata dal resto del territorio tedesco dal corridoio di Danzica, senza che i servizi d'informazione polacchi ne sospettassero l'esistenza. Gran parte delle sue componenti fu dunque trasferita in Prussia orientale via nave, ufficialmente per prendere parte alla celebrazione del 25º anniversario della vittoria a Tannenberg del 1914. Una volta raggruppatasi a Osterode, la divisione fu spostata nella regione di Neidenburg come parte dei più ampi preparativi per l'imminente invasione della Polonia. Il 25 agosto, infatti, fu dispiegata con fronte rivolto alla fortezza polacca di Mława, salvo rientrare a Neideburg quando Adolf Hitler sospese l'ordine di attacco. La "Kempf" tornò alle posizioni lungo il confine il 31 agosto.