Командированный в Свеаборг, Любовицкий 28 июля при бомбардировке крепости англо-французской эскадрой и при начавшемся пожаре порохового погреба потушил полами шинели загоревшуюся деревянную трубу. За этот подвиг, вместе с генерал-майором Гадолиным, Любовицкий был награждён орденом Св. Георгия 4-й степени спустя 15 лет — лишь в 1870 году. По окончании офицерских классов Михайловского училища Любовицкий поступил в Николаевскую академию Генерального штаба (в 1861) и по окончании её был переведён в гвардейский генеральный штаб.