Rokossowski stammte aus einem verarmten Zweig der bereits im 15. Jahrhundert bekannten Familie des polnischen Uradels des Wappenstammes Glaubicz (Glaubitz), deren Namen vom ursprünglichen Familienbesitz "Rokosowo" bei Kościan in Großpolen abgeleitet war. Rokossowskis Vorfahren hatten in Kongresspolen als Teilnehmer und an den Aufständen von 1830 und 1863 gegen die russische Herrschaft ihre Güter verloren und bürgerliche Berufe ergreifen müssen. Sein Vater Ksawery Wojciech, (1853–1910) übte als Lokomotivführer einen sehr geachteten und gut bezahlten Beruf aus, seine Mutter Antonina Owsjannikowa stammte aus dem russischen Kleinadel und war Lehrerin. Rokossowskis Vater starb 1910 bei einem Zugunglück, seine Mutter starb kaum ein Jahr später.