柏举之战吴军大胜之后,吴王阖闾率领吴国大军进入郢都。吴国君臣沉浸在破楚入郢的喜悦中不能自拔,孙武却异常清醒,他认为吴国虽然只凭三万精兵就破楚胜利,但是吴国的后方却没有巩固,如果楚国的旧势力卷土重来,南方的邻国越国也趁机攻打吴国的话,吴国就有很大的危险。但此时被胜利冲昏头脑的阖闾却听不进孙武的劝谏。
阖闾十年(前505年),即吴王阖闾率军攻进楚都郢城的第二年,一直对吴国虎视眈眈的越国果然趁吴国国内空虚之机,起兵伐吴。越国军队在越王允常指挥下偷袭吴国,直逼吴都。这时,留在楚都的吴国大军却发生了内乱。阖闾的同母胞弟夫概不辞而别,带领一支部队迅速潜回吴都,自立为王。而楚国的老臣申包胥也在百般努力说服秦哀公救援楚国。楚国的残余势力在秦国军队的帮助下,开始逐渐收复失地,逼近郢城。
这时的吴国陷入了内外交困的状况,但多亏有远见的孙武才得以解除这样的局面。吴国在孙武和伍子胥的带领下,巧妙地避开敌人,保存实力,最后安全地撤兵,返回了吴国。阖闾率军返国,及时地稳定了军心。同时,孙武在伐楚前对越国的偷袭也作了非常周密的安排,他留下大量的军队驻守吴都,越国的这次偷袭行动也没有成功。而夫概的叛乱最终也被平息。
阖闾十九年(前495年),吴王阖闾趁越王允常去世、越国国丧之际,开始大举兴师伐越。新继位的越王勾践指挥越军与吴军开始激战,将吴军大败。吴王阖闾在混战中被越将用戈击中了脚趾头。后来,伤口发炎,吴王死于吴军后撤的路上。吴王夫差继位之后,发誓要报勾践杀父之仇。孙武和伍子胥也在加紧整顿军备,以辅佐夫差完成报仇大业。夫差二年(前494年)初,夫差开始兴师伐越。吴、越两军在夫椒(今苏州市吴县西南太湖中)相遇,战斗非常激烈。在孙武和伍子胥的策划下,吴军在夜间安排了许多诈兵,分为两翼,高举火把,在黑暗中连成一片火光迅速向越军阵地移动,杀声震天,越军军心动摇。孙武多年来在太湖训练的水师也发挥了不可小觑的作用,各种战船相互辅助,攻守兼长。越军抵挡不住吴军的强大攻势,大败。吴王夫差率大军乘胜追击,深入到越国腹地。越王勾践知大势已去,率军退回到都城会稽(今浙江省绍兴市)。吴军又紧追不舍,一举攻占了越国都城,勾践投降。