太平軍在天王洪秀全、東王楊秀清率領下攻占湖南郴州后，西王蕭朝貴得悉“長沙城卑防疏”的情況，便向洪、楊建議由他率領“輕兵數千，倍道襲之，唾手可得”。洪秀全、楊秀清同意由蕭朝貴率偏師奔襲長沙，他們則留駐郴州，牽制清軍主力。咸豐二年七月初七（1852年8月21日），蕭朝貴率數千太平軍從郴州出發，七月二十七日（9月10日）行抵長沙城東十里扎營。第二天，即向長沙城發動進攻，打響了長沙戰役。此時正值湖南新舊巡撫交接之際，張亮基尚未抵長沙，城防由幫辦軍務羅統典負責。蕭朝貴帶領太平軍主攻長沙城南門時，被清軍炮火擊中而負重傷。太平軍一如既往，勇猛攻城，且使“城門倒破”，清軍“萬分危急”。但不久清軍主力調往長沙以及張亮基、左宗棠的到來，使清軍方面得以茍延殘喘。也就在張、左進入長沙城僅4天之后，洪秀全、楊秀清統率太平軍抵達長沙城南，雙方鏖戰更趨激烈。
左宗棠進入長沙城是農歷八月的事，不久蕭朝貴犧牲，洪秀全聞訊，于九月初一率軍抵達長沙城外。太平軍楊秀清以下諸王，分析了戰勢，認為長沙城守衛堅固，一時難以攻下，而楊秀清與天王洪秀全商定，今后的戰略，主要目標是打下南京，建立“小天堂”，奠都于此，不與清政府爭一城一地，待打下南京后，再出兵征服長沙。所以，洪秀全率兵雖抵長沙，但主要是在城外作戰，未進攻長沙。
左宗棠與江忠源一起，以城防為己任，日夜親臨指揮，打敗了起義軍的多次攻城，包括太平軍以地道攻擊。
因太平軍的方針大計是“略城堡，舍要害，專意金陵，據為根本”，故攻長沙不下，乃主動撤圍北上，長沙之圍遂解。但是，長沙軍民及張亮基卻不知太平軍的戰略，只知是左宗棠日夜指揮守城的大功勞。
左宗棠剛剛進入湘幕，張亮基便“一以兵事任之”。左宗棠審度戰場形勢，向張亮基“干以數策，立見施行”。其中最主要的一條是他認為太平軍“背水面城”，而清軍“援軍既扼其東北”，太平軍“已自趨絕地”。只有西路的土墻頭、龍回潭是太平軍的糧食補給線和唯一的西進路線，因此，他主張“先以一軍西渡，扼其他竄，可一鼓殲也”。看來左宗棠是試圖將太平軍扼殺于長沙城南，其胃口的確不小。但援湘清軍多為烏合之眾，且分隸十幾個總兵和提督，指揮不一。張亮基先后命令總兵常存、馬龍所部西渡，而他們都“畏賊不戰”。接著，張亮基又請內召進京途經長沙的賽尚阿遣提督向榮赴西路督戰，向榮渡過湘江后，初是“遷延不進”，繼則在牛頭洲被翼王石達開所率太平軍擊潰。
這時，剛好新任欽差大臣徐廣縉到達衡州，他派提督福興至湘潭。張亮基派江忠源“躬赴湘潭”，并“再三咨請”徐率軍至長沙，也遭拒絕。于是左宗棠又向張亮基建議，上書徐廣縉，調福興所部疾速西渡湘江，扼住龍回潭，但徐廣縉沒有同意這個建議。張亮基氣憤至極，想親自督兵西渡，太平軍卻開始接二連三地掘地轟炸城墻：11月10日，太平軍轟開南門魁星樓側城墻四丈余；13日，南月城金雞橋太平軍所埋地雷爆炸；29日，又炸裂南門城墻八丈余。太平軍這幾次進攻雖都被清軍及時堵住，沒有攻進城來，但張亮基的西渡計劃也未能成行。
太平軍圍攻長沙80多天，三次挖地道轟城墻也都功敗垂成，于是在清軍互相扯皮推諉的時候，乘著風雨大作，暗渡湘江，占據了有利地勢，改變了不利態勢。11月30日，太平軍下令撤離長沙，經龍回潭而去。
12月2日，太平軍迅速攻占益陽，然后大軍迅速渡越洞庭湖，于12月13日占領湘北重鎮岳陽，接著乘勝北上，沖出湖南，進入湖北。
太平軍于長沙撤圍11天后，欽差大臣徐廣縉才敢率兵抵達長沙。對此，左宗棠在致陶桄的信中說：
徐爵帥人甚樸實，用兵實非所長……賊已北竄，始悔不用河西合圍之策。
左宗棠初次出山就顯示出高人一籌的軍事才識，使清軍將帥刮目相看，由于左宗棠防守湖南有“功”，清廷下旨將其以知縣用，并加同知銜，他總算是第一次撈到了官銜，步入仕途。
密謀鎮壓征義堂
太平軍撤離長沙之后，左宗棠很快就把精力轉移到了鎮壓湖南的各路會黨勢力方面。在太平天國起義的影響下，湖南境內的人民起義風起云涌，各種會黨也相繼而起。關于這一時期的會黨勢力，曾國藩曾經這樣寫道：
凡入天地會者，大半附之而去，然尚有余孽未盡。此外又有所謂串子會、紅黑會、半邊錢會、一股香會，名目繁多。往往成群結黨，嘯聚山谷。如東南之衡、永、郴、桂，西南之寶慶、靖州，萬山叢薄，尤為匪徒卵育之區。
因此，太平軍離開湖南之后，左宗棠就開始協助張亮基，以操練鄉兵、整治土匪為急務，通令各州縣查辦會匪、盜賊、痞棍，州縣不能自治的，則委派官員治之，認為這樣官紳士民聯為一氣，自可辦理妥當。
經過一番密謀，他們決定首先拿征義堂開刀。征義堂設在瀏陽下東鄉，瀏陽鄰近長沙，地勢險要。起先，征義堂也只是鄉團組織，首領周國虞、曾世珍等，聚眾達四千余人。太平軍圍攻長沙時，周國虞等曾經與太平軍聯絡，圖謀響應。
周國虞是瀏陽縣古港鄉高游村人，其先祖是南明弘光朝大學士、兵部尚書史可法的貼身侍衛周天賜。明朝滅亡后，周天賜隱居湖南瀏陽，以反清復明為己任。其后代子孫恪遵祖訓，不忘反清復明大業。周國虞及其弟國材、國賢從小讀書習武，廣交四方友朋，圖謀大事。
一次偶然的機會，周國虞結識了天地會首領羅大綱。羅大綱帶著周氏兄弟拜見了天地會大頭領洪大全。于是，周氏兄弟參加了天地會，周國虞并成了天地會在瀏陽的首領。
周國虞回到瀏陽后，于1834年（道光十四年）以賽社的形式，籌錢會飲，創設了天地會在瀏陽的組織機構——征義堂。征義堂明里布仁施義，廣結良緣，暗里發展會眾，鼓吹反清復明。貧苦百姓紛紛參加，會眾很快發展到數千人。
19世紀中葉的中國社會，戰爭與災荒不斷，天災與人禍齊來，各地會黨活動頻繁。地方當局為防止和鎮壓會黨與不滿群眾的反抗，紛紛興辦團練。1842年，周國虞利用湖北鐘人杰起義軍攻入鄰縣平江之機，以“保衛身家”、“防寇”為名，與鄧萬發、曾世珍等人一起，創辦團練，聯絡村民，制造器械，使征義堂成為一個合法的武裝組織。
征義堂取得合法地位后，勢力日漸強大。在地主劣紳與貧民的糾紛和沖突中，征義堂對貧民嚴加保護，漸至發生械斗，“藐不畏法”，遭到地主劣紳的強烈嫉恨，官府也對征義堂起了疑心。于是，征義堂被勒令解散，兵器也被收繳，遭受了嚴重的挫折。
道光末年，征義堂又開始恢復活動。太平軍向湖南的進軍，給周國虞以公開復興征義堂的最佳契機。他利用清政府加緊團練的政策，使征義堂的人數迅速發展到2萬余人，成為瀏陽縣最強大的民間武裝隊伍。
征義堂再次興起后，即與進攻湖南的太平軍取得了聯系。太平軍石馬鋪之役的勝利，與周國虞提供的情報有很大關系。太平天國的領導人對征義堂也很重視，曾派密使到瀏陽會見周國虞，策動征義堂助攻長沙。但太平軍密使及周國虞給太平軍的密函均被瀏陽康生王應蘋所部鄉勇獲得。周國虞見事機泄露，于是先發制人，派人前往獅山書院，將王應蘋擊斃，救出密使，并封存當地糧倉，強迫地主劣紳出錢添制武器，準備起義。
對征義堂的活動，湖南官紳早就有了戒心，但因瀏陽團練尚未編齊，而長沙又處于危急之中，不敢貿然鎮壓。王應蘋事件發生后，當局開始了對征義堂的圍剿。周國虞便帶領征義堂會眾奮起反擊，襲擊東門達濟團，但未能得手，前隊六十余人全部遇難，峰田、大坳等村準備呼應的人也相繼被殺。周國虞退至古港、穴山坪、寶蓋洞一帶，扼險自守。
征義堂與地主團練的斗爭，不僅驚動了湖南省最高當局，甚至驚動了清朝的最高統治者。咸豐皇帝連下兩道諭旨，命湖南巡撫密查速辦。這時，太平軍已撤出湖南，巴陵曼仲武起義也被鎮壓下去。張亮基接旨后，命令江忠源以搜捕曼仲武余黨為名，率楚勇開赴瀏陽。1853年1月22日，江忠源率楚勇進駐瀏陽縣城東馮家山，布置就緒后，貼出告示，首先對征義堂實行分化瓦解。
周國虞得到消息，立即縫制白旗，大書“官逼民反”，并以周國偉為軍師，馬連為總頭目，朱聯石等為十八分堂頭目，正式舉行起義。1月26日，起義軍三千余人分為三路，主動出擊，直搗清營，殺死不少清兵。但起義會眾多為當地農民，戰陣不精，小勝后轉至大敗。31日，江忠源率部攻占古港，曾世珍率部退守三平洞。至2月7日，前后僅十多天起義軍就被消滅殆盡，征義堂戰士七百余人戰死，六百余人被俘，曾世珍被殺，周國虞逃往漢陽，后被清兵殺害。
瀏陽征義堂十余年的組織活動，特別是它所發動的反清武裝起義沉重打擊了地主劣紳勢力，保護了貧苦農民的利益，在近代長沙人民反封建斗爭的史冊上寫下了光輝的一頁。
瀏陽征義堂會黨起義鎮壓下去，左宗棠“以直隸州選用”。
離開湘幕入鄂幕
長沙守備戰和清剿會黨的勝利，并沒有讓朝廷欣喜多久，因為太平軍進入湖北后，猶如猛虎歸山，一路勢如破竹，進展神速。1852年12月23日，太平軍力克漢陽，圍攻武昌，僅僅六天就占領了漢口。太平軍進軍湖北后，于咸豐二年十二月初四（1853年1月12日）攻克武昌，占據武漢，這是太平軍起義后攻占的第一座省城。左宗棠聞訊后“不勝駭嘆”，他說：“孤城被圍二十余日，在外，救援之師不能乘機疾進，在內，防堵之師不能嚴密固守，致蠢茲小丑竟敢猖獗至此，殊為可恨。”他鑒于清朝正規軍作戰能力極低的狀況，設想在湖南練就一支由紳士統領的團練武裝來籌辦防剿。于是，十二月十九日（1月26日）由左宗棠草擬、張亮基簽署的《籌辦湖南堵剿事宜折》中提出了這樣的主張：“委明干官紳，選募本省有身家來歷、藝高膽大之鄉勇一二千名，即由紳士管帶，仿前明戚繼光束伍之法行之。所費不及客兵之半，遇有緩急，較客兵尤為可恃。”左宗棠寫好這份奏折的第三天，被清廷于二十多日前任命的幫辦團練大臣曾國藩由湘鄉趕至長沙，他“日與張石卿中丞、江岷樵、左季高三君子感慨深談……蓋無日不共以振刷相勖（xù）”。接著，曾國藩也向清廷上奏說，以往“所用之兵，未經練習，無膽無藝，故所向怯也。今欲改弦更張，總宜以練兵為要務。臣擬現在訓練章程宜參仿前明戚繼光，近人傅鼐成法，但求其精，不求其多，但求有濟，不求速效”，他“與撫臣熟商，意見相同”。這兩個內容稍異但根本點相同的奏折，構成張亮基、左宗棠、曾國藩創辦湘軍的最初設想。他們都是想要建立起一支由紳士管帶、招募鄉勇并采用戚繼光的辦法進行編練的軍隊，此后產生的湘軍，較之以往將弁由清廷按定制委派的綠營有著明顯的不同。因此，可以說湘軍實由左宗棠肇其端，而經曾國藩繼其成。張亮基調署湖廣總督和左宗棠一度離開湘幕期間，曾國藩獨立承擔起編練湘軍的任務，這就是將前經左宗棠檄調來長沙的以羅澤南（字仲岳，號羅山，湖南湘鄉人）為首的1000名湘鄉團練編練成的第一支湘軍陸師。
曾國藩在長沙的初次出現給左留下深刻的印象，“曾滌生侍郎來此幫辦團防，其人正派而肯任事，但才具稍欠開展，與仆甚相得，惜其來之遲也”。左宗棠既指出了曾的弱點，也甚有相見恨晚之感。曾國藩到長沙僅5天，張亮基就被清廷調署湖廣總督，張偕同左宗棠于咸豐三年正月二十二日（1853年3月1日）抵達武昌。
張亮基之所以總督湖廣，緣于武漢三鎮的相繼失守。這樣的局勢，進一步證明了當初左宗棠要聚殲長沙近郊策略的正確，但已為時晚矣。清廷在震驚之余，試圖通過重用這個“保全湖南”的巡撫來扭轉湖北的不利局面。當張亮基、左宗棠來到武昌時，太平軍已按新的戰略部署棄武昌而蔽江東下了。張、左遂在湖北加強軍事布防。
左宗棠進入湖廣總督幕府之際，正值太平軍勝利進軍之時。咸豐三年正月初二（1853年2月9日），洪秀全率領太平軍撤離武昌，“由武漢下江南也，帆幔蔽江，銜尾數十里。……炮聲遙震，沿江州邑……莫不望風披靡”。太平天國水陸大軍直下三江，從武漢到南京1800里江防的清軍主要集結在三個地區：九江、安慶、蕪湖。太平軍依次突破這三道防線，兵鋒直逼南京。
咸豐三年二月十一日（1853年3月20日），太平軍攻克南京，宣布在南京建都，改南京為天京，并于四月初一（5月8日）派天官副丞相林鳳祥、地官正丞相李開芳、春官正丞相吉文元率軍兩萬人從揚州出發，開始了英勇的北伐。
此時，太平軍雖然離開湖北，但湖北各地的人民在太平天國起義的影響下，反抗運動仍連綿不斷。左宗棠全身心地協助張亮基，一一予以鎮壓。
4月，通城爆發了以劉立簡為首的農民起義，他們以抗糧為號召，“戕（qiānɡ）官毀署，劫獄焚掠”，嘉魚的熊開宇也糾集會黨數千人，焚署劫獄以響應。這時，左宗棠商請張亮基，派江忠源前往鎮壓。
5月，廣濟也爆發了方四象等領導的抗糧斗爭，聚眾數萬人，黃州知府邵綸、黃梅知縣鮑開運都被起義軍擊斃。這時，左宗棠建議張亮基讓江忠源在過蘄（qí）州時，便道登陸前往鎮壓，方四象等的起義也隨之失敗。
太平軍定都天京后，又分別派遣大軍進行北伐和西征，以圖將勝利推向全國。這時，左宗棠建議扼住梁山，以防護長江中上游地區。他在為張亮基擬寫的奏折中寫道：
查安徽下游有東梁山、西梁山，對江夾峙，江面尚不甚寬，距金陵又近。此處設防，則安徽、江西、湖北各省江面均可無慮，遇便仍可相機協剿。若合三省全力扼之，通力合作，分辦其事，而專責其成，兵力厚而物力稍豐。視各省之節節設防，徒滋勞費，而力單費絀，終歸無補者，似少為可恃。
張亮基的奏折未被采納，太平軍西征的隊伍則舟載陸行，迅速西上，席卷安徽、江西。此時，左宗棠又建議制備戰船，武裝水師，控馭長江。稍后，再以請置戰艦、練水師的奏章上奏朝廷，提出了“宜飭四川、湖北、湖南各督撫制備戰船百余只，一以廣東拖罟（ɡǔ）為式，每船計可載兵五十名；飭廣東都督購備夷炮五百斤、三百斤者合千余尊”的具體方案。這份奏折很快得到允行，于是，張亮基遵令在湖北根據此數造船二十艘；曾國藩則趕赴衡州，以造備水軍自任，湘軍水師自此建立。
這年6月，太平天國西征軍攻入江西，張亮基、左宗棠趕至湖北黃州，在與江西九江臨近的田家鎮設防。7月，太平天國北伐軍的吉文元部因在河南遭清軍堵截，未能渡過黃河北進，便轉而南歸攻入湖北黃安縣（今紅安縣）。左宗棠看出太平天國的這支南歸軍有由黃安經麻城、黃岡攻取武漢的意圖，向張亮基建議從省城調兵勇三千余人星夜馳往團風鎮，以扼“出江上竄武漢”之路。