No se conoce con certeza el lugar de nacimiento de Rokossovski, algunas fuentes afirman que nació en Varsovia, mientras que otras lo ubican en el pequeño pueblo de Velikie Luki, cerca de Pskov, al norte de Rusia, mudándose su familia poco después de su nacimiento.