2-го августа 1943 года генерал-лейтенант Крейзер был назначен командующим 51-й армией, с которой провоевал до конца войны. 51-я армия отличилась при освобождении Донбасса, Крыма, Прибалтики. Во главе этой армии воевал на Южном, 4-м Украинском, 1-м и 2-м Прибалтийских фронтах. Эта армия под его командованием участвовала в Донбасской, Мелитопольской, Крымской, Шяуляйской, Рижской, Мемельской, Курляндской наступательных операциях. Участвовал в боях за освобождение Донбасса, при прорыве противника на Перекопском перешейке, за овладение городами Новочеркасск, Мелитополь, Симферополь, Севастополь, Шяуляй, Елгава.