李續賓同意和曾國華一起率軍進攻廬州，也就是今天的合肥，並非只是一味貪功，他有自己的判斷。四十歲的李續賓，乃是湘軍名將，九江就是他攻下的。在三河戰役之前，李續賓更是身經百戰，步步升遷，是湘勇裡繼胡林翼、江忠源之後的又一個達到巡撫官職的猛將！
李續賓也是窮苦人家出身，湖南湘鄉人，生於敦行四十四都，年輕時他和項羽一樣，膂力過人，但他好讀書。因家境貧寒，靠販煤養活家人，並全力供胞弟李續宜讀書。同是湘鄉人的湘軍大將羅澤南非常欣賞他，把他和他的兄弟都收爲弟子，不僅免其學費，還拿出自己收入的一部分，幫他供養家人。
咸豐二年，太平軍從廣西打到湖南，清廷急忙命令兩湖地方官，尤其是湖南官員舉辦團練，協助綠營兵堵剿太平長毛。那一年，李續賓便在家鄉協助羅澤南辦團練。李續賓能以兵法約束子弟，明恥教戰，訓練尤精，深得羅澤南的賞識。此後，曾國藩出山，他跟隨羅澤南一起加入湘勇，與太平軍作戰，開始了軍旅生涯。
李續賓與太平軍的首戰是1853年。當年夏天，太平軍在夏官副丞相賴漢英率領下圍攻南昌。江西巡撫張芾和湖北按察使江忠源守南昌，因城中兵力單薄，請求增援。曾國藩便遣湘鄉知縣朱孫詒率訓導羅澤南所募湘勇赴援，李續賓隨軍而行。
1854年，西征太平軍逼近長沙。曾國藩所練湘軍誓師出戰，在湘潭大敗太平軍。自此開始，湘軍向西徵太平軍進行大反攻，接連取得軍事勝利，連克嶽州等地，在奪取嶽州高橋、城陵磯等戰鬥中，李續賓作戰勇敢，因功擢升爲知縣。
1854年10月初，湘軍陸續抵達武昌外圍，曾國藩指揮湘軍分多路進攻武昌。羅澤南、李續賓率部4000餘人由金口猛攻花園。
花園位於武昌城西二十里處，駐有太平軍精銳部隊萬餘人。在江邊，堤上、青林湖畔設有大營三座，是防守武昌的重要據點。
戰鬥的當天，李續賓就率部攻下花園太平軍大營。次日，他帶入又連下鮎魚套附近太平軍6座營壘，兵臨武昌城下。
當時，負責守衛武昌的太平軍將領石鳳魁、黃再興等人，都是文官出身，不懂軍事。他們見湘軍氣勢洶洶地攻到城下，便於夜間率軍棄城逃往田家鎮。武昌這個華中重鎮，就這樣被湘軍佔領。跟着曾國藩的大軍，李續賓自嶽州東下以來，常爲先鋒，沿途七戰皆捷。攻佔武昌後，曾國藩保奏他升爲知州。
湘軍攻佔武昌後，兵分三路，夾江東下，水陸並進，直指半壁山、田家鎮。李續賓隨知府羅澤南走南路，由金牛鎮攻興國，他率部首先趕到半壁山，與太平軍連日展開激戰。太平天國的秦日綱親率兩萬餘太平軍分作兩路向湘軍進攻。李續賓僅率兩千餘湘軍與之激戰整日。戰鬥中，李續賓手刃三名怯陣的湘軍士兵，率部拚死抵拒，並將太平軍擊潰，後又派出百餘人縋崖而下，協同湘軍水師斫斷橫江鐵鏈，半壁山要隘遂爲湘軍所得。那一仗，湘軍水師突破太平軍水上防線，順流東下，焚燬太平軍船隻數千艘。
田家鎮一戰的關鍵雖在水戰，但李續賓最先趕到半壁山，首戰告捷，又挫敗了太平軍反攻計劃，控制半壁山，使田家鎮失去依託，立了大功。這次戰鬥後，他因功被加賞“摯勇巴圖魯”名號，升爲安慶知府。
而歷時數年，攻下九江，幹掉太平軍的名將林啓容，是李續賓取得的最艱苦也是最輝煌的勝利。這硬仗打得十分出色。
當湘軍攻佔田家鎮之後，曾國藩計劃奪取九江，然後利用水師優勢，直逼金陵。湘軍水師進至九江江面，陸師進抵九江城外。
鎮守九江的林啓容是太平軍的著名驍將，能攻善守。湘軍進攻九江西門，三戰皆敗，死傷甚衆。湘軍對九江實施全面進攻，羅澤南、李續賓率部猛攻東門，因城上槍炮木石交施，屢次搶登，不能得手。曾國藩見硬攻不能奏效，便改取“舍堅而攻瑕”的方針，留塔齊布等繼續圍攻九江，調胡林翼，羅澤南、李續賓等帶兵進攻梅家洲，企圖佔領九江外圍要點，切斷九江與湖口的聯繫。
守衛梅家洲的羅大綱於城外立木城二座，高與城等，炮眼三層，周圍密排，營外木樁、竹籤廣佈十餘丈，較之武昌、田家鎮更爲嚴密；掘壕數重，內安地雷，上用大木，橫斜搭架，釘鐵蒺藜其上。胡林翼、羅澤南、李續賓率部等分路向梅家洲發動進攻，遇到太平軍奮力抗擊，死傷數百人。
奪取九江的計劃受挫，曾國藩退守南昌。除留塔齊布繼續圍困九江外，羅澤南部奉調充作遊擊之師南援贛中，李續賓隨隊與太平軍作戰，連續攻佔弋陽、廣信、德興、義寧等府縣，因軍功升爲記名道員。
1856年，李續賓配合在武昌外圍作戰的胡林翼所部攻取武昌。那一年，李續賓基本上是在武昌城下度過的，他率部與湖北巡撫胡林翼、湖北提督楊嶽斌等與太平軍相持於武昌城外。太平天國發生天京內訌，翼王石達開從武昌前線趕回天京，李續賓趁機攻佔了魯家巷太平軍營壘13座，和胡林翼部一起攻進武昌城。接著，他率軍乘勢東下，在楊載福水師配合下，又攻下了武昌縣（今鄂州市），大冶、興國，再次因功升爲記名按察使。
1857年1月初，李續賓率所部萬人順江而下進入江西，再攻九江城。
九江自1853年9月被太平軍佔領後，一直在太平軍手中。林啓容在武昌將陷之時，就督軍日夜繕守具，屯米糧，浚深溝，設炮臺，以防湘軍來犯。從1月6日開始，李續賓陸師與揚載福水師連戰數晝夜，攻城不下，遂決定改變攻城戰術，3月5日，他督湘軍自宮牌夾起到東邊白水湖尾修築長壕，全長30多裡，共6道，每道深2丈，寬3丈5尺，於6月築成，三面合圍九江。同時，他決定先掃清九江外圍太平軍據點，孤立九江。
1857年9月，李續賓首先進攻九江北面的小池口，由水師炮船晝夜轟擊，城內房屋全被擊毀。10月，風雨交加，李續賓令陸師用稻草，沙囊填滿壕溝，士兵躲在稻草沙囊之後，直撲城下；然後向城內施放火箭，乘煙焰迷漫之時攻陷小池口。後來，李續賓率部進攻湖口，湘軍緣梯攻城，用火箭擊中太平軍的火藥庫，登時瓦石飛空，牆壘破裂；守將黃文金見勢難再守，開門撤走。梅家洲守軍見湖口已陷，也棄壘而走。被分割於鄱陽湖內達三年之久的湘軍水師與長江內水師會合。
小池口、湖口、梅家洲被攻佔後，九江便失去了依託，陸上三面被圍，臨江一面也被湘軍水師控制，完全成爲孤城。這年底，李續賓因軍功實授浙江布政使。
李續賓抓緊圍攻九江，百計並施。但林啓容毫無懼色，率軍堅守城中，使湘軍頓兵城下一咩多仍不能得逞。
直到1858年3月20日，李續賓再次攻打九江城。此時九江城內儲備的糧食已吃光，太平軍靠種麥自給，仍頑強抗擊。5月8日，湘軍挖地道轟塌東門、南門城牆，登城士兵均被太平軍拋擲的大桶火藥炸死炸傷，缺口重又堵住。此戰，湘軍死傷無數，胡林翼向朝廷奏報說，湘軍傷亡士卒之慘，使將士莫不欷歐飲泣。
5月19日，湘軍用地道轟塌九江東南城牆百餘丈，湘軍士兵前者傷，後者繼進，衝上城頭，林啓容率部下浴血巷戰，1.7萬將士全部英勇犧牲，其壯烈爲太平天國戰史中所僅見。
李續賓經過苦戰奪得九江，其戰略意義不言而喻。戰後，因功賞巡撫銜，名揚天下。
李續賓屢戰屢勝，進攻合肥，他有點心存僥倖。因爲三河鎮位於界河南岸，東瀕巢湖，是廬州西南的重要屏障。該鎮原無城垣，太平軍佔領後，新築了城牆，外添磚壘九座，憑河設險，廣屯米糧軍火，接濟天京，因而在軍事上、經濟上都居重要地位。當時太平軍的守將是吳定規。
李續賓率部一月之內，連下四城，進軍迅猛，但部隊傷亡較重。僅舒城一戰，湘軍陣亡過千，帶傷約五百人以外。
李續賓也感到兵力不足，他對此心知肚明，在進軍三河鎮時向曾國藩報告說：“所部八千人因克復潛山，太湖、桐城及舒城留兵防守，分去三千人。數月以來，時常苦戰未嘗得一日之休止。傷損精銳，瘡痍滿目，現已不滿五千人，皆系疲弱之卒。三河一帶悍賊雖多，自揣猶足以制。若遇大股援賊，兵力亦恐難支。”
儘管如此，李續賓仍抱僥倖心理，指望能在太平軍援軍到達之前，迅速攻下三河鎮。
李續賓和曾國華率湘軍進攻三河鎮外太平軍營壘，近者被其火藥所焚，遠者遭其槍炮所轟，傷亡很大，卻難以近其城壘。
進還是退？猛將李續賓一時難以抉擇。