.204年，孙权讨伐江夏太守黄祖，击破黄祖水军，但因中途获悉丹阳、豫章、庐陵三郡的山越少数民族作乱，因此收兵班师，吕蒙亦随军中。到达豫章（今江西南昌 ） ，孙权命征虏将军吕范平定鄱阳（今江西鄱阳东北），荡寇将军程普进击乐安（今江西德兴东北），建昌都尉太史慈抚治海昏（今江西永修东），同时，令吕蒙与别部司马黄盖、韩当、周泰等率兵镇守险要，担任山越最为活跃地区的县令或县长。吕蒙与诸将遵照孙权的部署，各自以武力平定了于各地起事的山越族人。吕蒙因功被任命为平北都尉，兼任广德长。208年，孙权採纳将军甘宁建议，再