建安五年(200年),“江东小霸王”孙策溘然长逝,临终时把后事托付给年仅十九岁的弟弟孙权。有很多人纷纷聚集在庐江郡太守李术麾下,想要趁机发起叛乱。庐陵郡太守孙辅也不相信孙权有保全江东的能力,暗中写信讨好曹操。孙权为此感到惊恐,跪在哥哥的陵墓前痛哭不止。张昭对他说:“现在,您哪里还有时间哭泣呢?要赶紧振作起来!”
孙权于是召见孙辅,质问他:“你我兄弟一场,有什么事就直接告诉我,为什么要私通外人呢?”孙辅矢口否认:“绝对没有这样的事!”孙权就把截获的书信拿给孙辅看。孙辅惭愧得无言以对。孙权叹息良久,下令捕杀孙辅身边的罪臣,然后把孙辅关押起来。
孙权又起兵攻打皖城。李术派遣心腹突破重围向曹操求救,但此时曹操在官渡与袁绍激战正酣,根本就没有精力看顾南方的乱局。没过多久,皖城里面粮食断绝,饥饿迫使妇女们只能搓泥丸给家人果腹。孙权破城而入,击杀了李术,收编了他的部众三万多人。
孙权掌权以后,广招贤才。鲁肃、诸葛瑾、顾雍、顾邵、严畯、步骘(zhì)、徐盛、陆逊等人得到重用,风起浪涌的动荡局面也因此得到安抚。
当时,张昭不喜欢鲁肃,多次批评他,认定他年少粗疏、不可重用。但孙权却很欣赏鲁肃,向他请教说:“我继承父兄的事业,希望自己能够创建像齐桓公和晋文公那样的功勋。请问你有什么好计策帮助我呢?”鲁肃回答说:“您怎么能够效仿齐桓公、晋文公呢?以我的见解,在很长的时间里,没有人能够除灭曹操,汉朝也因此不可能得到复兴。当前的局势,曹操好比是那个飞扬跋扈的项羽,而您所能够效仿的,应该是汉高祖刘邦啊!如今北方正值多事之秋,您应该趁机挥军西进,剿灭与您有杀父之仇的黄祖,进而夺取物产丰富的荆州。这样,您就可以利用荆、扬两个州的财富,与曹操争夺天下的主权。”
孙权嘴上说不敢赞同鲁肃的观点,但心里却激奋不已。后来他采纳了鲁肃的这一建议,在五年时间里连续三次起兵攻打江夏,最终击杀了江夏郡太守黄祖,用他的头颅祭奠了父亲孙坚的亡魂。