1860年五月，太平天國忠王李秀成率軍攻克了浙江嘉興，并派部將陳炳文（后封聽王）鎮(zhèn)守之。1862年春，聽王陳炳文被調(diào)往杭州鎮(zhèn)守，因此把嘉興的防務(wù)轉(zhuǎn)交了部將滿天義（官爵名）廖發(fā)壽。
廖發(fā)壽主政嘉興時，其施政才能在太平軍將領(lǐng)之中算時很優(yōu)異的了。他愛民，善于處理軍民關(guān)系。有一次他攻打吳江大敗而歸，潰兵一萬多人，一路逃回嘉興，但是途中經(jīng)歷的鄉(xiāng)鎮(zhèn)都秋毫無犯，從來潰兵都是比土匪都可怕，但廖發(fā)壽帶領(lǐng)的太平軍確實這般紀(jì)律嚴(yán)明，在太平天國后期真是罕見。另外，嘉興城里的賭博都被廖發(fā)壽禁絕了，當(dāng)?shù)赜袀€塾師在日記里記道：“余生三十年，目不見賭，獨有此時。竊思長毛號令，國朝（指清朝）地方官所不逮也”。
可惜的是，太平天國還是連年征戰(zhàn)階段，根本無余力和心思而專心治政牧民。再加之嘉興乃江、浙要沖，東與蘇、常，西與杭、湖為犄角，也算是兵家必爭之地，戰(zhàn)爭不能停歇。1863年春，廖發(fā)壽和副手劉得功分別被封為榮王和挺王，但這年冬天嘉興招來了大團(tuán)戰(zhàn)火。清廷李鴻章的淮軍攻占蘇州后，圖謀常州，要牽制折江太平軍，以斷常州西路的救援，兼鞏固蘇、滬后方，就分軍為二路，一路從無錫、金壇進(jìn)圍常州，一路水陸并進(jìn)浙江，與左宗棠的楚軍合犯嘉興。
淮軍和楚軍來勢洶洶，平湖、乍浦、海監(jiān)、嘉善、嘉興東北屏蔽先后都丟失了，隨后桐鄉(xiāng)也丟了，至此，杭州和嘉興的通路被割斷了，嘉興成了孤絕之城。
主攻嘉興的統(tǒng)帥時淮軍將領(lǐng)程學(xué)啟，此人曾是太平天國英王陳玉成麾下大將，在安慶之戰(zhàn)中投降清廷，然后為清廷立功心切，每戰(zhàn)必爭先鋒。榮王廖發(fā)壽和挺王劉得功及手下太平軍對這個叛徒恨之入骨，所以在交戰(zhàn)中，雙方也是殺得難舍難分。1864年正月，清軍開始凸顯強(qiáng)勢，攻破了太平軍城外所有營壘，然后開始四面猛攻嘉興主城。
城內(nèi)太平軍只有8000多人，其中5000為老弱、傷兵。戰(zhàn)斗力很強(qiáng)的只有挺王帶領(lǐng)的洋槍大隊，每當(dāng)程學(xué)啟的先鋒軍靠近，挺王就親自帶著洋槍大隊?wèi){借精準(zhǔn)又猛烈的火力射擊把他們打退。這令程學(xué)啟傷透了腦筋，他也把淮軍的洋人炮隊調(diào)過來，用開花大炮把城頭太平軍炮臺二十余座和百余丈城墻炸毀，再命死士400名沖鋒，挺王劉得功并不畏懼，先要榮王帶兵迅速堵住缺口，然后他指揮洋槍大隊利用廢墟洞隙射擊，清軍撲了一夜，還是沒攻破城門。
程學(xué)啟抽刀殺了沖鋒軍的頭領(lǐng)，于第二天自己親自帶兵沖鋒。這時候，清軍是下血本了，支援程學(xué)啟沖鋒的洋炮似乎要把整個嘉興城夷為平地。前沿陣地的太平軍成百地被炸死，但挺王劉得功帶著洋槍大隊還是在堅守待敵，轉(zhuǎn)眼間程學(xué)啟領(lǐng)著沖鋒隊開始搶登城墻了，太平軍迅速開火，清軍瞬間死傷一堆，就在這時，挺王劉得功把搶瞄準(zhǔn)了那個張牙舞爪的領(lǐng)頭敵將程學(xué)啟，隨著“嘣”的一聲，程學(xué)啟立即被爆頭而倒地。
?但是清軍并沒有因此減緩進(jìn)攻，加上城中太平軍的火藥庫被炮火點中，沒多久太平軍落敗了，清軍攻破了嘉興城，挺王和他的洋槍大隊在抵抗清軍過程中全部陣亡，無一投降，無一生還。榮王廖發(fā)壽帶領(lǐng)殘軍和清軍血戰(zhàn)到了最后，也全部陣亡。
