直反对阮朝与法国议和，支持官军、清军与法军对抗。咸宜元年（1885年）二月，法军攻陷谅山省城，吕春葳弃官退往清朝。同庆二年（1887年），吕春葳与阮光碧回到河内。经北圻经略衙上奏，法军批准，吕春葳得以返回家乡。他在家乡悄悄联络爱国志士，准备发动起义。成泰元年（1889年），吕春葳的学生在家乡发动反法起义，最终被法军镇压。吕春葳因为参与了起义谋划而被判刑10年，送往崑崙监狱服刑。成泰三年十月二十三日（1891年11月24日），吕春葳在崑崙岛去世，寿五十四岁。阮朝朝廷后来恢复了他的职衔。