孙权见吕蒙年少却能练兵，遂谓吕蒙曰：“卿今当涂掌事，不可不学！”蒙辞以军中多务。权曰：“孤岂欲卿治经为博士邪！但当涉猎，见往事耳。卿言多务，孰若孤？孤常读书，自以为大有所益。”蒙乃始就学。及鲁肃过寻阳，与蒙论议，大惊曰：“卿今者才略，非复吴下阿蒙！”蒙曰：“士别三日，即更刮目相待，大兄何见事之晚乎！”肃遂拜蒙母，结友而别。

此一段名为孙权劝学，吕蒙后来也报了孙权知遇之恩。正史中，吕蒙先随孙权讨伐黄祖，击破黄祖水军之时，获悉丹阳、豫章、庐陵三郡的山越起事作乱。孙权遂引军返回平乱，吕蒙随军征讨。吕蒙与别部司马黄盖、韩当、周泰等率兵镇守险要，各自以武力平定了本地区起事的山越族人。吕蒙因功被任命为平北都尉，兼任广德长。

建安十三年，孙权采纳将军甘宁建议，发兵进攻夏口，吕蒙随军出征。江夏郡太守黄祖下令用蒙冲战舰封锁沔口，用大棕绳系巨石为锥以固定舰位，上有千余人用弓弩交射，封锁江面，吴军进攻受阻。孙权命偏将军董袭、司马凌统各率百人敢死队，身穿重铠，乘大船冲抵蒙冲舰旁，董袭挥刀砍断棕绳，战舰顺水飘流，孙权军遂溯流而进。黄祖见孙权兵来，急派水军都督陈就率兵反击，吕蒙统率前锋部队，身先战阵，一刀将陈就斩落长江。孙权军乘胜水陆并进，包围夏口城。孙权督军猛攻，克其城，并屠之。黄祖只身逃窜，被小将冯则追斩。此战，孙权大获全胜，一举歼灭宿敌黄祖，占领江夏地区。战后论功，孙权言道：“此战功成，俱赖先斩陈就。”遂提拔吕蒙为横野中郎将，并赐钱千万。

建安十三年十月，吕蒙跟随周瑜、程普，在赤壁大破曹操，曹操引败军北归，留曹仁等驻守江陵。孙权命周瑜、程普统兵数万，与曹仁隔江相持。相持不久，周瑜欲夺取江陵，先派甘宁袭取上游的夷陵城，意图对江陵形成侧背威胁。于是，曹仁分兵围攻甘宁，欲夺回夷陵。甘宁向周瑜求援，诸将担心兵少，如救援夷陵，则造成江陵空虚。吕蒙对周瑜、程普说道：“留下凌公绩，我与您一道，前去救急解围，按情势不会要太多的时间，我保证凌公绩能固守十天。”接着又献策，劝周瑜派三百人用木柴把本来险峻的山路截断，当敌人逃跑时，我方就可获得他们的马匹。周瑜采纳了他的建议，亲率主力驰援夷陵，大破曹军于夷陵城下，所杀过半。曹军乘夜逃走，途经木柴堵塞的险路，无奈，骑马者皆弃马徒行。周瑜、吕蒙驱兵追赶截击，获得战马三百匹，以致军威大振。随即回师渡江，进军北岸，构筑营垒，向江陵发起进攻。此时，孙权为策应周瑜攻势，派兵包围合肥。曹仁由于孤军无援，在近一年的交战中屡战失利，损失惨重，遂被迫放弃江陵城，退往襄阳。周瑜占领江陵，被孙权任命为南郡太守，控制了长江中游地带。吕蒙再度因功迁为偏将军，兼任寻阳令。

周瑜病死，鲁肃接任。鲁肃到陆口，途经吕蒙驻地。鲁肃为一代儒将，认为吕蒙是武夫出身，有些轻视他。孙权对鲁肃说道：“吕将军功名日益显赫，不能用老眼光看待他，您应当去拜访他。”于是鲁肃孤身一人，到大营拜访吕蒙，吕蒙设酒相待。酒到酣处，吕蒙问鲁肃道：“您受重任，与关羽邻接，将要采取何种策略，以防止意想不到的事情发生呢？”鲁肃仓猝回答说：“临时看情况办。”吕蒙说：“现在孙、刘虽然是一家，但关羽实在是个如熊虎一样的将领，怎么不预定计谋呢？”于是，吕蒙详尽地分析当时的利害。鲁肃闻后大惊，越席而起，靠近吕蒙，亲切地拍着他的背，赞叹道：“吕子明啊，我真没想到您的才能谋略竟达到了如此程度。”还说：“以你如今的才略，已经不再是吴下阿蒙了！”吕蒙说：“士别三日，即更刮目相待，兄长知道这件事太晚了啊！”从此，二人结为好友，过从甚密。

建安十八年正月，曹操亲率十万大军进攻孙权，进至濡须口，攻破孙权军江西营寨，生擒都督公孙阳。吕蒙随孙权统领七万部众抗御曹操，多次献奇计，劝孙权在夹水口建立船坞，防范敌兵，精到细密。后曹操遥望孙权的军队，见阵容威严，布防严密，慨叹说：“生子当如孙仲谋。”遂不敢轻易冒进。适值长江春讯将至，孙权写信劝曹操尽速撤兵，曹操也审时度势，主动撤军而回。

建安十九年，曹操为充实军粮，派庐江太守朱光在皖城地区屯兵耕地，种植稻谷。又派间谍招降鄱阳一带的强盗头目，作为内应。吕蒙认为“皖县田地肥沃，如果粮食丰收，他们的兵员就会添增，这样一连几年，曹操的优势就显露出来了，应该早点拿下皖县。”孙权采纳了他的意见，率军沿江而上，进攻皖城。朱光收聚部众据城坚守。孙权问计于诸将，诸将欲修筑土山，添置攻城器具。吕蒙道：“制造攻城设备和堆土成山，须多日才能完工。到那时，敌人城防已经巩固，援兵必定到来，我们将不能夺得皖城。况且我军乘雨多水大而来，如果旷日久留，大水必定渐渐退走，我们回兵的道路会遇到困难，我以为那是很危险的。现在看来，此城不会十分坚固，我三军士气高昂，四面齐攻，很快就可攻克，然后趁大水未退而回军，这才是大获全胜的策略。”孙权采纳了这一建议，吕蒙举荐将军甘宁为升城督，率领精锐士卒，从拂晓发起猛攻。吕蒙擂鼓助威，甘宁身先士卒，吕蒙以精锐紧随登城，仅一顿饭时间，就将城攻破，生擒朱光，俘获数万人。驻守合肥的曹魏大将张辽得知皖城告急，急忙率兵驰援，至夹石一带风闻皖城已失，只好无奈退兵。此战吕蒙功劳最大，孙权重加奖赏，任命他为庐江太守，所俘获的人马也都分给了吕蒙，还特赐他寻阳屯田六百户，官属三十人。

赤壁大战之后，刘备占据荆州，派关羽镇守。孙权屡次索要，刘备拒不归还。建安二十年，孙权派吕蒙率两万兵士去攻取长沙、零陵、桂阳三郡。吕蒙传檄长沙、桂阳，二郡望风归附，惟零陵太守郝普守城不降。刘备闻后，见形势危迫，匆忙从蜀郡赶到公安，令关羽发兵争夺三郡。

孙权当时驻军在陆口，指挥诸军作战。孙权一面派鲁肃率万人屯驻益阳抵抗关羽，一面传递紧急文书给吕蒙，让他放弃零陵，立即回师增援鲁肃。当初吕蒙平定长沙，率兵赶赴零陵，路过酃县时，顺路找到了零陵守将郝普的旧友邓玄之，把他带在军中，想让他诱降郝普。吕蒙得信后，他并未公布，而是连夜招集将领，布置方略，说天亮就要攻城。

布置完毕，他对邓玄之说：“郝子太知道世间存有忠义，也想行忠义之事，但不明白时势。左将军刘备在汉中，被夏侯渊围困住。关羽在南郡，而今我们主上亲自前抵南郡。近来攻破樊城关羽的大本营，解救酃县，关羽已被孙规击败。这些都是近期发生的事，您都亲眼所见。他们现在首尾各处一方，自救都来不及，哪有余力再营救零陵啊！现在我们的士卒精锐，人人都想为国立功，主上正调遣大军，相继上路进发。眼下子太的性命朝夕难保，却苦等毫无希望的救援，就同牛脚印坑中积水里的鱼，还希望用江、汉的水来活命，其毫无可依赖也是很清楚的事。如果子太能够将士齐心，坚守孤城，尚能苟延残喘一些日子，以等待后来有所投靠，这也算可行。如今我缜密计划安排好兵力，用来攻城，过不了一天，就会将城攻破，城破之后，他自己身死于事无补，而让百岁的老母，满头白发受人诛杀，岂不痛心？我猜想他是得不到外面的信息，还以为有外援依靠，故此才顽固到今天这个地步。您可前去见他，向他陈述这种利害。”