任上过世。唐明宗当时才出近郊射猎，得青州驰骑奏知霍彦威死讯，掩泣回宫，辍朝三日，至月底不举乐。诏以三公礼葬，册赠太师、晋国公，谥忠武。太子少傅李琪原是后梁宰相，奉诏撰写《霍彦威神道碑》时叙述霍彦威在梁历任官职且没有称梁为伪朝，因而于四年（929年）八月被冯道以碑文不分真伪混功名为由提出改撰，唐明宗从之。霍彦威的儿子霍承训和弟弟霍彦珂都累官至刺史。后周枢密直学士陈观曾在霍承训门下，见霍氏门户孤弱，进言于宰相王峻，因王峻上奏，广顺二年（952年）十二月，后周太祖诏以霍彦威嫡孙霍绪为弘文馆校书郎，侄霍承庆为秘