В мае 1944 года Горшков был назначен на должность командира 5-го гвардейского кавалерийского корпуса, который вскоре принимал участие в боевых действиях в ходе Ясско-Кишинёвской, Дебреценской и Будапештской наступательных операций, а также в освобождении городов Тыргу-Фрумос, Роман, Бакэу, Дебрецен, Ньиредьхаза и Мишкольц. В октябре Горшков исполнял должность командира конно-механизированной группы 2-го Украинского фронта затем вернулся на занимаемую должность командира корпуса, который принимал участие в боевых действиях в ходе Будапештской наступательной операции. За отличие при освобождении Будапешт корпусу было присвоено почётное наименование «Будапештский». Вскоре корпус участвовал в Венской наступательной операции, в ходе которой принимал участие в ходе освобождения городов Надьканижа, Ново, Фридберг и Фишбах.