Ông chỉ huy Tập đoàn quân xe tăng cận vệ 5 trong Trận Prokhorovka trong Trận Kursk và trong Chiến dịch Bagration. Đơn vị dưới quyền chỉ huy của ông, Tập đoàn quân xe tăng cận vệ 5 đã tham gia trận chiến xe tăng khốc liệt gần Prokhorovka, chống lại cuộc tấn công bằng thiết giáp của các sư đoàn Waffen SS gồm "Leibstandarte SS Adolf Hitler," "Das Reich" và "Totenkopf". Trong trận chiến này, Rotmistrov đã ra lệnh cho các xe tăng của mình đánh cận chiến, gần như trong phạm vi chỉ 100-200 mét, nhằm hạn chế lợi thế khoảng cách hỏa lực của các xe tăng Đức. Chiến thuật này đưa đến việc hầu hết các phát súng của cả hai bên đều là trúng đích trực tiếp. Khoảng cách gần đến mức các xe tăng lần lượt bắn nhau từ trái và phải và đủ gần để các xe tăng Xô viết đâm vào xe tăng Đức để vô hiệu hóa các khẩu pháo tương đối mạnh của chúng.