继隶向荣军。咸丰三年（1853年），国樑至天京城外建军营。国樑屯七桥瓮，攻锺山太平军垒，先登受伤，咸丰温旨垂问，国樑更感激，自此于战场遇艰险，一往直前。雨花台为近城要地，屡力攻，几克之，赐号霍罗琦巴图鲁（巴图鲁即勇士之意，为满语）。咸丰四年夏，复太平。太平在天京上游，太平军踞之以通粮运，聚千艘结四垒，设防甚密。国樑自率精锐四百人突克。擢广西三江协副将。又攻雨花台，平太平军垒，毁砲台。剿南路窜太平军，追入秣陵关，歼戮殆尽。咸丰五年，升擢福建漳州镇总兵，原被令领兵来台镇械斗，却突然改派至南京守太平军