楊堅這樣的戰場安排就需要一位統帥來全面指揮全軍的前線作戰，這時的楊堅再一次想到了自己心愛與優秀的兒子晉王楊廣。

開皇八年（588）十月，楊堅在安徽壽春置淮南道行臺，以晉王楊廣為行臺尚書令，主管滅陳之事。此時楊廣年僅二十歲，要作為滅陳的統帥無論怎么講楊廣還是嫩了些，畢竟國家間的征伐不是兒戲。

于是楊堅在任命晉王楊廣總管滅陳之事后，又安排自己的得力助手和能人武將為其保駕護航。其中任命左仆射高颎為晉王元帥府長史，軍中之事皆由他拍板決斷；楊廣的老師右仆射王韶為司馬，負責糧草運輸，軍需供應；同時參加這場戰爭大隋有名的將領都來了，如韓擒虎、賀若弼、楊素、宇文述、王世積等人都成為楊廣帳下統兵將領。說實在的楊廣有點像是滅陳的掛名統帥，但是歷史證明楊廣作為統帥在滅陳的過程中并不是一個花瓶。

對于這場大戰楊堅調集了大隋帝國的所有精銳，水陸總兵力達到五十一萬之多，共分八路進攻南陳。名義上楊廣節制所有大軍，但是因為兵力之多，戰線之廣，所以出永安(四川奉節東)的楊素軍、出襄陽的楊俊軍、出江陵劉仁恩軍三路由山南道尚書令秦王楊俊指揮，直指江夏(武昌)，阻止長江上游陳軍東援。楊廣軍出六合(屬江蘇)；賀若弼軍出廣陵(江蘇揚州)；韓擒虎軍出廬江(合肥)；王世積軍出蘄春(湖北蘄春東北)；燕容軍出東海(江蘇連云港西南)。以上五路由楊廣直接指揮，目標直攻南陳都城建康。

十一月，楊堅至定城(陜西華陰)誓師，而準備渡江的各路隋軍已進抵長江北岸的指定位置，完成了進攻準備。

十二月，各軍大部集結于長江北岸，大軍東起海濱，西到巴、蜀，旌旗耀日，刀槍如林，鼓聲震天，舟楫競進，橫絕連綿千里，聲勢之浩大，百年未有。

南陳后主荒淫驕侈，政治腐敗，既不懂軍事，又不納部將建議，憑恃“長江天塹”，疏于防務。為了元會(即春節)之慶，竟命鎮守沿江重鎮江州(江西九江)、南徐州(江蘇鎮江)的兩個兒子率戰船回建康，致使江防更為薄弱。十二月，長江上游的隋軍首先發起進攻。楊俊督水陸軍10余萬出襄陽(今屬湖北)，進屯漢口。陳后主命散騎常侍周羅喉都督巴峽沿江軍事，與郢州刺史荀法尚部數萬，據守江夏，同楊俊大軍相峙月余。時隋行軍總管周法尚率舟師3萬，進至樊口(湖北鄂州)，擊破抗拒的南陳守軍。楊素率水軍出巴東，沿三峽東進，荊州刺史劉仁恩部由江陵西上，兩軍配合，水陸兼用，襲占狼尾灘(湖北宜昌)，擊敗南陳守將戚昕。

長江上游的大軍為南征開了個好兆頭，下游的楊廣和高颎也定下的渡江總攻時間為開皇九年（589）大年初一，于是新年的到來成了長江下游的南征大軍焦慮的等待。

在等待著總攻到來的日子里，擔負指揮隋軍作戰重任的高颎不免惴惴不安，眉頭緊鎖。因為在歷史上北朝的軍隊屢屢南征都是飲恨長江，敗而北還。于是高穎特意找到深知南朝地理人文的淮南道行臺吏部郎薛道衡問：“此番舉兵，能否平定江東，請君言之”。

這薛道衡是隋朝詩人中藝術成就最高的一人，他在詩歌上的造詣讓同為詩人的楊廣十分推崇。參加這次的南征之前薛道衡曾經兼任聘陳主使，多次往還江東，對南陳朝的腐敗情況了解很深，曾經多次上奏楊堅，要求對陳“責以稱藩”，也就是不承認陳朝和隋對等，實有滅陳、統一南方之意。所以高颎由此一問，而薛道衡回答的更是精彩，說：“凡論大事成敗，先須以至理斷之。《禹貢》所載九州，本是王者封域，南北分裂已久，戰爭不息，否終斯泰，以運數言之，其必克一世；有德者倡，無德者亡。自古興亡，皆由此道。我隋主上躬履恭儉，憂勢庶政，陳叔寶峻字雕墻，酣酒荒色。其必克二也；為國立體在于用人，陳重用小人，命將非才，其必克三也；陳甲土不過十萬，西至巫峽，東至滄海，分之則勢懸而力弱，聚之則守此而失彼，其必克四也”。

高穎聽后，心頭的疑慮頓消，忻然嘆服說：“君言成敗，事理分明，吾今豁然矣。本以才學相期，不意籌略乃爾”!

薛道衡這個四勝論斯毫不遜色于當年曹操與袁紹決戰官渡時，其手下首席謀臣荀彧為其鼓氣的四勝論！都說書生百無一用，而能看透形勢，料決斷大事的往往就是這些手無縛雞之力的書生！

開皇八年（588）的最后一天，也就是大年三十。

萬里長江籠罩在茫茫夜色之中，江水一如既往地拍打著岸邊的嶙峋礁石。江南岸華燈閃爍，炮仗聲聲，笑語連天，百姓們忙著辭舊迎新，把守江戶要塞的士兵也都在軍營內舉行元會之慶，把盞痛飲，高歌做舞。

就在這一時刻，一隊艦船突然像箭一般駛向江南要塞，長矛戳空，鋼刀森森，一雙雙虎狼般的目光映綠了長夜！帶頭的大將正是大隋吳州總管賀若弼。

楊廣和高颎定下的渡江總攻時間為大年初一，但作為前鋒的賀若弼等不及了，他要搶奪南征的頭功，爭當渡江第一英雄！賀若弼的行動讓沉迷在春節喜慶中的陳軍猝不及防，慌潰而逃。

開皇九年(589)一月一日，南陳君臣都沉浸在元會的喜悅里，但是北方的南征統帥楊廣卻按計劃進軍至六合以南的桃葉山，指揮下游隋軍發動總攻，橫渡長江，直指建康；宇文述奉命由桃葉山渡江占領石頭山（江蘇江寧縣）；先動的賀若弼已從廣陵渡江進攻京口，俘虜南徐州刺史黃恪；韓擒虎由橫江（安徽和縣）夜渡占領采石。

情形對陳已到了生死存亡的時候，正月初三，知道消息的陳后主召集公卿討論戰守，次日下詔“親御六師”，委派蕭摩訶等督軍迎戰，施文慶為大監軍。陳叔寶、施文慶不諳軍事，將大軍集結于都城，并派一部舟師于白下（江蘇南京城北），防御六合方面的隋軍，另以一部兵力鎮守南豫州（安徽當涂），阻擊采石韓擒虎部的進攻。楊廣大軍突破長江之后，迅速推進。賀若弼部于初六日占領京口后以一部進至曲阿（江蘇丹陽），牽制和阻擊吳州的陳軍，另以主力向南陳心臟建康前進。韓擒虎部于初七占領姑孰（安徽當涂）后，沿江直下，南陳沿江守軍望風而降。同日，賀若弼率精銳8000進屯鐘山（南京紫金山）以南的白土崗，韓擒虎部和由南陵（安徽銅陵附近）渡江的總管杜彥部2萬人在新林（南京西南）會合，宇文述部3萬進至白下，隋大軍繼續渡江跟進。至此，隋軍先頭部隊完成了對建康的包圍態勢。建康（南京）地勢虎踞龍盤，向來險要。此時，南陳在建康附近的軍隊仍不下10萬，但是不懂軍事的陳后主陳叔寶棄險不守，把全部軍隊收縮在都城內外，又拒不采納大將想乘隋先頭部隊孤軍深入立足未穩之機進行襲擊的建儀。。

正月二十日，陳叔寶在“兵久不決，令人腹煩”的情況下，決定孤注一擲，命令各軍出戰，在鐘山南20里的正面上布成一字長蛇陣，魯廣達率部在最南方的白土崗列陣，向北依次為任忠軍、樊毅軍、孔范軍、蕭摩訶軍。但陳后主沒有給予大軍一個統帥，使得諸軍各自為戰，毫無背城一戰的統一決心。各軍行動互不協調，首尾進退不能相顧，這為后來的滅亡加快了腳步。