再迁为徐州刺史，加威虏将军。其中征辟之前荆州刺史王叡的侄子王祥为别驾，民生、政事都委託他，当世贤能多是他所任免。吕虔有一把佩刀，刀工说这把刀一定是能登三公之位的人才能拥有。吕虔将这把刀送给了王祥。琅琊王氏将此刀世代传承。 后讨利城郡的唐咨叛军，斩获有功。曹叡即位，徙封万年亭侯，增邑二百，加上之前有六百户，而后病逝。
特征.吕虔管理地方甚有成绩，以恩威并施治理，所以有多次讨贼、安民的功劳。
子孙.《新唐书·宰相世系表》称吕虔为齐康公之后，其孙吕行钧以下世居