“裴監，你可是我的大軍師呀。”李淵手撫裴寂，神色凝重地說，“這長安一戰，關係到我等成敗存亡，實乃至關重要，故而不得有任何閃失，需慎而又慎！衆將士須得羣策羣力，全力以赴。你裴監可是全軍的軍師，自然得覓一克敵制勝的妙計纔好。”
“裴寂雖智愚，然定會竭盡所能，爲大將軍效力！”裴寂施禮道，“依現今局勢，裴寂以爲採取分兵包圍長安頗爲妥當。不知大將軍以爲如何？”
“真可謂是英雄所見略同啊，本公也如你所想，以爲取分兵合圍之態爲上策。”李淵呵呵一笑說，“長安畢竟是京師，防守嚴密且守城將士皆爲皇上心腹，必會誓死以敵。因此，我軍切不可操之過急，只能分兵圍攻，等待時機。”
“大將軍真是深謀遠慮哪！”王長諧贊同道，“長安城即便固若金湯，然有大將軍、裴大人出謀劃策，又有衆將士捨生忘死地奮戰，必能攻破它！”
“王將軍說的好！”李淵很誠懇地說道，“自舉旗以來，各位將士同心戮力，共破敵賊，方有今日這個大好局面。本公在此深表謝意，同時也希望諸位同仁再接再厲，傾力拿下長安城，此後共享榮華富貴。不知諸位意下如何？”
話音剛落，堂上的文官武將們不約而同地向大將軍李淵擲地有聲地發誓：
“請大將軍放心，我等定將捨命殺敵，攻取長安！”
這場面令李淵十分高興，他笑呵呵地讚賞了一番自己的屬下。
過了會兒，李建成忽然畢恭畢敬地問父親：
“請問大將軍，我軍如何分兵進攻長安？請大將軍明示！”
李淵沒有直接回答李建成的提問，而是側身與裴寂嘀咕了幾句，然後才向在座諸位宣佈道：
“我軍將兵分兩路，向長安進發。一路由建成率軍自永豐倉向長樂宮進發，進攻長安東南兩面，一路由世民自阿城進發，進攻西北兩面。本公和裴大人將隨同建成一道出發。軍令下後，請諸位回去準備，後日出兵長安。”
衆將得令，隨即動身前往各自的軍營，佈置戰前各項工作。
李淵與裴寂、李建成又談論了好半天軍機大計，方一道走出署內，朝李建成的軍營疾步走過去。接着，李淵又一次站在點將臺上，對着幾萬將士作了番精彩的動員，使得士兵們個個精神飽滿，鬥志昂揚。
此日，冬陽高照，北風呼呼地颳着。一大早，李淵就命令李建成集結各營將士發號施令。不多時，義軍便從永豐倉井然有序、浩浩蕩蕩地開赴長安。一路上，人馬喧騰，沙塵飛揚，遮天蔽日。兩旁的百姓夾道歡送，對威武之師讚不絕口。
李淵的部隊一路倍道而行，趕往目的地。每次經過隋煬帝的行宮、園苑，李淵都會令人將其關閉，放出宮女歸還其親屬。衆宮女對李淵的仁義感激不盡，個個跪地泣拜，如事再生之父，過後欣然離去。
在李淵揮師長安的同時，李世民也率軍自阿城出發，十餘萬大軍雄糾糾氣昂昂地奔赴戰場。因阿城距離長安較近，因而李世民的部隊不出兩日就達到了長安城外，並按李淵的部署在金城坊安營紮寨。李世民清楚大戰將至，因此一面嚴明軍紀，一面又與士兵們打成一片，以結其心，好讓他們奮不顧身地衝鋒陷陣，爲自己效命。晚上，他專與房玄齡、劉弘基、長孫順德、柴紹等得力親信共議攻城計策，一邊等待着父兄大軍的到來。
幾日過後，李淵率軍進入了長安，在春明門西北處紮營駐軍。這時，各路人馬都已齊聚長安，兵力達二十餘萬。李淵深知民心向背將決定自己大事成敗，所以他一邊四處安撫百姓，一邊傳令各軍將領必須嚴格約束自己部下，不得侵擾百姓，違令者嚴懲不貸。一日竇軌部下一士兵因偷吃老百姓地裡的蘿蔔，被人告發，李淵派人查實後，便當作殺一儆百的典型將他的頭砍掉。從此以後，就再也沒有軍士敢違令做損害百姓的事兒。如此嚴於律己的軍隊，自然深受百姓的擁擠與愛戴，當地百姓對義軍讚不絕口。
長安城內聞說李淵義軍已兵臨城下，四面包圍了城池，不由人心惶惶，一片混亂。此時，隋煬帝楊廣依然在江都指揮宇文化及、王世充等將士抵抗李密的瓦崗軍。城中只有代王楊侑等一幫文臣武將鎮守，他們聽說李淵已到長安，不禁人人自危，驚慌失措。刑部尚書兼京兆內史衛文升年老體衰，一聽到李淵兵進長安，憂懼成疾，又恐禍及自身，就借身有不適之故不理朝政。而作爲一城之主的代王楊侑因年幼怯懦，見李淵義軍勢力強大，也是六神無主，不知如何是好。這時朝中主符郎宋公弼等文臣自知守軍難敵城外義軍，到時城破必殃及自身，因而力諫接受唐國公的多次諭告，打開城門迎接義軍入城。朝堂之上，宋公弼惴惴不安地向高高在上的楊侑諫道：
“代王，今皇上遠在江都，不能顧及京城。王世充將軍疲於應付瓦崗賊軍，無法抽身前往支援，而屈突通將軍也被叛軍劉文靜阻於潼關，難以進兵。現唐國公大軍扎於城牆之下，氣勢洶洶。爲今之計，臣以爲當請唐國公入城爲妥。”
“不可！”左翊衛將軍陰世師厲聲道，“代王，李淵父子自晉陽起兵，一路殺向長安，其目的就是要奪取大隋江山社稷。倘若放李淵入城，那無異於引狼入室。請代王三思！”
“陰將軍，你疑慮過重了吧！”宋公弼沉聲反駁道，“唐國公不是遣使宣稱自己尊奉隋室，還敢有妄想？他舉義旗，是爲平定亂賊，以安天下，豈有纂逆之心？”
“是呀，是呀！唐國公身爲大隋國公，又是皇親國戚，哪能心懷異志，謀奪皇位呢？”不少老臣搖首附和宋公弼，“代王，唐國公世代忠良，向素仁義忠誠，爲大隋盡心竭力，豈能做出大逆不道之事？望代王明察！”