太平军在金田起义之初,都是在山乡作战,无须水营,后来经过湖南益阳,征得民船数千只,始立水营。水营附属于陆营,也就是说湘潭水营的统帅也是林绍璋。林绍璋虽是陆师将领出身,但既掌水营,当然也掌握水营的基本战术套路,比如在靖港大显神威的劫营战术。劫营其实最好是在晚上实施,陆战水战皆如此。这是因为黑夜里敌军不知前来劫营的人数或船只,也不知对方会采取什么袭击手段,更容易造成全军惊溃。天王洪秀全有一道诏旨说得好,“日夜巡逻严预备,运筹设策夜衔枚,岳飞五百破十万,何况妖魔灭绝该。”
晚上四更天,林绍璋从水上实施了劫营,太平军以载着柴草的纵火船在前,以载着无数油灯的小划于后,悄悄向太平军水师逼近,冀望一靠近后,即实施火攻。不料湘军水师即便在深夜里,也戒备严密,而且采取措施得当:发现敌船试图靠近,立刻出动轻便灵活、运转自如的舢板,将敌船全部驱离其船队的安全范围,劫营战术宣告失败。
1854年4月28日,中午时分,双方在水上展开新一轮大战。褚汝航督战,他在船头敲击大鼓,用以振奋士气;彭玉麟、杨载福则堪称是水师中的塔齐布,二人乘着舢板,往来冲杀,猛不可当。
太平军水营的特点之一是船只数量庞大,在定都天京之后,已拥有一万多艘,但所有船只无一例外都是由民船、商船改造而成,各船大小不一,且未经训练。战船所用炮也皆为土炮,火药质量亦极为低劣,往往就算击中敌船,敌船仍能行驶如故。相比之下,湘军凭借着船坚炮利的优势,一上来就压着对方在打。当天,湘江上炮声雷鸣,江水为之沸腾,太平军大败,湘军缴获船只达三百余。
这些船对湘军而言并没什么大用,有很多还是征用来的商船,船上载有各种杂物,彭玉麟担心以后弁勇会贪图缴获,以致作战松懈不肯死战,便下令连船带货一同焚烧。焚烧太平军战船的时候,火光冲天,火焰甚至延伸到了岸上,连百里之外都能看见。
湘军水师的气势就像他们烧的这把火一样,已呈一发不可收之势。取胜之后,彭玉麟、杨载福继续追击,此时北风劲吹,又到了借助风势的好时机,二人下令兵勇发射火炮、火箭,太平军在逃入湘潭城中之前,又被焚毁了数百船只。当时太平军将士皆头包红巾、黄巾,江面之上,红巾、黄巾随波漂荡,到处都是。
这一天,曾国藩亲自领兵进攻靖港,却输得灰头土脸。因为当时的通信手段落后,直到曾国藩出兵前,他和长沙城里的人们,都尚不知道湘军已经在湘潭大获全胜。
4月29日,塔齐布通知水师紧紧盯住太平军水营,自己与周凤山分四路围攻湘潭城。太平军在频频失利的情况下,新兵与老兵开始出现不和,其间因自相残杀而丧生者即达数百人。林绍璋难以调和,指挥失灵,处境更加狼狈。当晚,太平军试图从水路突围,但遭到湘军水师堵截,只得弃船登岸,重又折回湘潭。
太平军为了能够突围,在湘潭城频繁地出入,无形中给湘军制造了见缝插针的空隙和机会。前来增援塔齐布的江忠淑,带领楚勇潜伏于城下,待太平军利用云梯上下时,突然冲上前去,夺梯而上,在入城后打开了城门。塔齐布兵团冲进城中,城内进入巷战阶段。5月1日,湘军完全占领湘潭,林绍璋仅带四名骑兵,乘夜逃往靖港。
在湘潭战役中,太平军遭受了前所未有的惨败:总计被歼不下万人,附从解散者亦以万计,船只被毁一千余只。如此大的损失,即便靖港之捷亦无法予以弥补。
本来在湘军兵败靖港后,湘南及两粤潜伏的天地会力量,风闻太平军即将进攻长沙,都已四起响应。那时人人都以为太平军取长沙如探囊取物,湘、粤、桂三省传檄可定。至此,这一期待完全落空,太平军对长沙的威胁彻底解除。不仅如此,西征、北伐亦受到制约,甚至天京都已处于湘军的威胁之下。日后,李秀成在总结太平天国失败教训时,提出了著名的“十误”,即导致太平天国败亡的十大错误,其中第四误便是湘潭战败。李秀成认为,“不该发林绍璋去湘潭,此时林绍璋在湘潭全军败尽”。