任他为从事，率家兵守湖陆。襄陵校尉杜松部将炅母等作乱，与昌豨互通。曹操便任吕虔替代杜松。吕虔到地上任，诱炅母等各首领及数十恶人赐与酒食；另一方面，挑选壮士在侧边埋伏。吕虔看到炅母等都醉了，便命伏兵将他们全部杀死，安抚其余群众，平定乱事。曹操遂任吕虔领泰山太守。当时郡中连接山海，因世局动盪，许多百姓都纷纷躲藏。而北方群雄袁绍所置的中郎将郭祖、公孙犊等数十人又佔山为寇，百姓深受其苦。吕虔率家兵到郡，广开恩信，郭祖等党羽都降服，在山中躲藏的人都下山，安置土业。吕虔挑选当中一些强人补为兵士，于是泰山以精兵闻名，