ある時、鄧当に仕えていた役人で、年の若い呂蒙を馬鹿にする者がいた。呂蒙は怒ってその役人を斬り殺し、同郷の者を頼って逃亡したが、後に校尉の袁雄を頼って自首した。この事件が孫策の耳に入り、孫策は呂蒙に面会を求め、その非凡さを見抜き、側近に取り立てた。
数年後に鄧当が死去すると、張昭の推薦で、呂蒙が鄧当の任務を引き継ぎ、別部司馬に任じられてその軍の指揮を執る事になった。
丹陽討伐では至る所で功績を挙げ、平北都尉となり、広徳県令に就任した。
呉が南郡を占拠して荊州を平定すると、偏将軍・尋陽県令に任命された。
呂蒙は黄祖討伐をはじめ、赤壁の戦い、その後の荊州を巡る一連の戦いでも常に大将を務め戦功を上げた。しかし、小さいころから字が読めなかったといわれるほどの無学であった。後に主君の孫権から教養の大切さを諭されたが、呂蒙は一度は忙しさを理由に反論したが、孫権から「主君である私でも忙しい中勉強できたのだ。絶対に出来る。私は少時より『詩』『書経』『礼記』『左伝』『国語』を歴読したが、ただ『易』だけは読んでいない。跡を継いで以来、三史（『史記』『漢書』『東観漢記』を指す』）や諸家の兵書を省み、自らに大いに益する所があった」と言われ「『孫子』『六韜』『左伝』『国語』および三史 / '三字経 を読むのが良かろう。別に博士になれというのではない、ただ過去の事を多く知ってもらいたいだけだ」と諭され、渡された『魏武註孫子』で呂蒙は勉強を始めたが、結果として儒学者にも勝るほどの量の学問を身につけたという。
ただし、若いころに正式な学問を学ぶ機会を持てなかったため、重要な文書は口述で作成させたという。
孫権軍の重鎮へ.
劉備が益州を手に入れた事で、孫権は荊州の諸郡（長沙・桂陽・零陵）を返すように催促したが、劉備は「涼州を手に入れたら荊州の諸郡を返します」と答えた。涼州は益州の遥か北であり、当時で益州と涼州の間であと漢中があると、劉備がこれを奪う事はその時点で不可能に近く、返すつもりが無いと言ったも同然であった。これに怒った孫権は呂蒙・魯粛らを派遣して、荊州を攻めた。
同年、孫権は自ら軍を率いて合肥城を攻めたが、疫病にあって撤退した。その時に張遼の追撃を受けたが、寡兵で呂蒙・凌統らが殿となって死闘の末、孫権を守った（合肥の戦い）。
関羽征討戦.