在一次与宪兵的冲突中被抓进监狱，两个月的牢狱生活使他有机会接触到布尔什维克的思想。出狱后被工厂解雇，16岁的罗科索夫斯基到了他姐夫开的一个石坊里当起石匠学徒。
第一次世界大战.1914年7月28日在奥匈帝国向塞尔维亚宣战的当天，俄国卡尔戈波尔龙骑兵第5团开进华沙。罗科索夫斯基虚报了两岁谎称20岁，得以按规定年龄加入该团，被分到骑兵6连，先后任列兵和下士，自此参加了第一次世界大战，俄军与德军的战斗随即全面展开。罗科索夫斯基凭借着作战英勇机智，两次获4级乔治十字奖章、1次获3级乔治十字