周軍被皇帝狠批了一頓，老實了不少，又恢復了往常的氣勢。接連拿下石州（今山西離石）、沁州（今山西沁源）、忻州（今山西忻縣），從東、南、北三面將太原城圍個水泄不通，劉崇成了“孤家寡人”。
顯德元年（公元954年）五月，柴榮率大軍北上。柴榮與文武騎馬前行，一路上週軍馬步軍縱橫成陣，旌旗獵獵，不日兵臨太原城下。這時契丹軍已經來到忻州附近，柴榮決定圍點打援，讓符彥卿去收拾契丹人。周軍開出忻州城外，擺好陣式，迎接契丹軍。
周軍先鋒史彥超恃勇逞強，只率二十個好漢衝進契丹陣中，而前來支援的潞州節度使李筠正好趕到，幫助這些梁山好漢殺退了契丹軍，斬首二千餘級。而史彥超打個了大勝仗（功勞應該是李筠的），有點忘乎所以，招呼二十個猛男去追殺契丹人（有毛病！）。
契丹人再不濟事，也不怕你這幾個人。反過來將史彥超圍住，一通亂砍，史將軍嗚呼斃命！契丹軍又趁勢回殺，周軍沒有想到契丹人殺了一個回馬槍，亂了方寸，連死帶傷好幾千，李筠光棍似的逃掉了。
柴榮接着敗報，氣的直跺腳：“史彥超有勇無謀，壞朕大事！”史彥超是周朝有名的猛將，他這一完，周軍將士心中發毛，議論紛紛。柴榮不想再等，下令攻城。城中的劉崇打陣地戰不怎麼樣，防守倒有點本事，打了幾天周軍沒拿下來。老天似乎也不想讓柴榮這麼早就出風頭，連旬大雨。城裡的人好說，城外的人就慘多了，沒地方躲，帳蓬也不如房子能頂雨，周營一下子多出了許多病號。
看樣子，太原是一時半會拿不下了，柴榮考慮了一下，留得青山在，不怕沒柴燒，今天不容爺，明個爺再來。傳令三軍毀營後撤，原先積蓄在城外的數十萬斤糧草帶不走的就燒掉，不能留給劉崇。周軍已經沒有鬥志了，皇帝一下令，如喪家之狗般，狼狽撤退。有些軍爺手上閒不住，邊撤邊搶百姓東西，軍中一片烏煙瘴氣。
劉崇想送送柴榮，剛出城就被周軍殿後的匡國節度使藥元福給請回去了。周軍一撤，已經奪得的北漢州縣復歸北漢，周朝派出來的新任刺史倉皇南退。
柴榮回京前先繞道去了新鄭，拜祭太祖皇帝。來到陵前，柴榮跪在地上放聲大哭，直呼：“不孝子榮，未能親自奉葬，萬死不足辭罪，願父皇神聖有靈，保佑皇周國祚綿長，早日軫滅禎河東殘賊，規復山河，拯黎庶於水火！”侍從衆人也跟着落淚。
經過這兩次親征，柴榮對那些打仗不怎麼樣架子倒不小的軍爺的底細摸的差不多了，這些人個個都是兵油子，滑的很，衝鋒在後，分功在前，這樣的軍隊是不經的的。
柴榮會集羣臣檢討此次失利，柴榮心情沉痛的告訴他們：“軍中良莠兼雜，勢強則戰，勢危則降，兵油子混進軍隊不是來打仗的，而是發財的。前次在高平，右軍未戰及潰，如果不是朕親臨矢石，督勵將士，連朕都險些命喪高平。這等混帳絕不能再用！否則不知哪天朕就得被他們賣了！”
柴榮決定利用這個休整的時期對軍隊進行徹底整治，首先淘汰掉老兵、弱兵，打發回家。然後徵募強壯漢子，直接充入禁軍。因爲如果讓地方藩鎮募兵，只能增加他們對抗中央政府的風險。由中央遴選，軍隊自然掌握在柴榮手中，不管是盛世亂世，沒有一支素質過硬、能力過硬的精銳部隊是不行的。
柴榮親自檢選，在眼皮子底下亮真傢伙，而功夫好的就當禁軍頭領。這樣一來，雖然軍隊人數少了，但戰鬥力強了，自古強兵在精不在衆，人多了沒用，反容易誤事，君不見當年苻堅東拉西湊了九十萬烏合下江南嗎？朱序一呼，“秦軍敗了！”土崩瓦解，不可收拾。
淘汰冗兵還能省下不少軍費，財政狀況也隨之好轉。而且禁軍隊所用經費由中央財政直接拔付，也保定這支軍隊的穩定。柴榮建立起的這支軍隊“兵甲之盛，近代無比”，後來討伐淮南、北上攻契丹，立下戰功無數。宋太祖趙匡胤稱帝后，南征北戰，實現局部統一，靠的也是柴榮的禁軍主力。
顯德元年（公元954年）的十一月，從河東傳來一則重要消息：盤踞在太原的北漢皇帝劉崇病死，次子劉承鈞繼位。
柴榮從來就沒怕過劉崇，但對劉崇的“耶律叔叔”倒是不得不防，契丹人不比北漢。契丹人經常仗着自己的騎兵優勢，竄到河北燒殺搶掠，因爲機動性比較強，境內周軍拿這夥“馬賊”也沒什麼辦法。
柴榮爲了防禦契丹，於顯德二年（公元955年）的三月，在深州（今河北深縣）和冀州（今河北冀縣）之間的李晏口（今河北下博境內）設置靜安軍，派大將王彥超駐守李晏口。李晏口旁依胡盧河，憑深扼冀，是重要的軍防要塞。契丹不希望看到李晏口的軍防工程竣工，前來拆臺，被王彥超痛擊一陣，敗了回去。契丹領教了柴榮的本事，沒事再不敢上門拜訪了，河北百姓深受其惠。
汴梁自石敬瑭再次建都以來，到了柴榮差不多有近二十年的時間，柴榮胸懷天下，對狹小的汴梁自然不太滿意，決定大規模的擴建汴梁。當然這個季節農民都沒有空閒，爲了不耽誤農業生產，先畫好新城輪廓，以待來冬開始動土興建。這次擴建對開封建城史來說具有非常深遠的意義，如果說梁太祖朱溫定都開封是開封成爲“重量級”歷史名城的第一個臺階的話，那麼柴榮擴建則爲後來開封在北宋時期一躍成爲天下第一大都市打下了堅實基礎。
柴榮不是個能坐得住的人，進行內政建設的同時也沒失去削平天下的志向，畢竟臥榻之側羣狼俟顧，換成任何大腦正常的人都不會睡得着覺。柴榮下令羣臣每人寫兩篇作業，談談自己對國家大政的看法，看這幫“食肉者”能不能有什麼好策略，養他們不是白養的，光吃乾飯不做事的人柴榮是很討厭的。
衆人領旨回家做作業去了，不久都把作業交了上來，柴榮一一審查，越看越頭疼，這都寫的什麼啊，歌功頌德，有個屁用？翻着翻着，柴榮眼前一亮，發現了一篇奇文，署名是比部郎中王樸。
王樸是山東東平人，精通諸家兵法，很有戰略眼光，他在文中說：“自唐晉以來，中國（指中原政權）之所以失天下，主要是因爲人主昏庸於上，而人臣弄權於下，軍人驕橫拔扈，漸成積弊。現在陛下胸懷四海，當首先近賢臣遠小人，人如墨朱，近者如也。言而有信，獎賞有功而懲戒過失，天下人就都願意爲陛下效死。陛下應該提倡節儉，不然上行下效，奢糜風起，就將動搖陛下的統治基礎。
至於邊患，臣認爲南方諸國實力較弱，比北方的契丹好對付。尤其是江南李唐，據有淮南千里沃土，其主李璟昏庸無道，國內宵小爲黨，國勢漸衰，陛下可以先取淮南，定江北之地。然後休養時日，再傳檄嶺南、兩川、閩浙，令速早降，不然王旗指處，四方披靡。南方平定之後，大周的實力就會得到極大的增強，就可以抵消契丹憑仗十六州時常南犯的優勢。而河東殘賊是我朝死敵，對他們只有用武力強行解決。劉氏自高平敗後，已經沒有和大周相抗衡的實力，不過藉着契丹的威風苟延殘喘而已。
我大周兵強馬壯，萬乘大國，何懼鼠竊之輩。陛下英武，三軍用命，現在就可以開始準備，一步一步的完成統一大業。”柴榮越看越興奮，激動的無以名狀，立刻晉升王樸當上開封尹，做自己的左右手。
王樸的這篇具有戰略指導意義的文章就是五代史上大名鼎鼎的《平邊策》，王樸的戰略意圖非常明顯，就是先易後難，先取江南，後取北方。後來宋太祖趙匡胤的統一進程實際上就是按王樸的《平邊策》照葫蘆畫瓢，北漢也確實是五代十國時最後一個消滅的政權。至於王樸死後，柴榮爲什麼要放棄既定戰略而北伐契丹，柴榮有以下考慮：南方諸國中只有蜀國和南唐與周朝臨界，李璟已經被打懵了，不足慮。蜀國孟昶倒是能在西邊鬧點動靜，但也只是癬疥之疾，何況柴榮對蜀早就有備。其他的小政權更是不值一提，而且和周朝不搭界（荊南倒是搭界，可有誰相信荊南會給柴榮造成麻煩？），他們反誰去？
柴榮北伐契丹的主要戰略目的是奪回幽雲十六州，在北方建立完善的山地防禦體系，相對北漢，契丹纔是周朝最大的威脅。因爲此時的契丹已經基本完成了封建化，是一個強大的封建農奴制軍事集團，契丹高居燕雲山險之地，俯窺山南千里平原，遊騎縱橫，讓人防不勝防，所以柴榮認定南方不會對自己造成威脅後，北伐也是勢在必然。
柴榮本就懷有統一大志，王樸此策正合心意，雄心勃發，開始着手啓動統一進程。正好這個時候西邊的秦州（今甘肅秦安，著名的";隴西成紀";便是）、鳳州（今陝西鳳縣）等地百姓因爲忍受不了後蜀政權的苛政，向周朝乞兵。
柴榮當然願意幫忙了，派鳳翔節度使王景與宣徽南院使向訓率兵前去收復秦鳳二州（在後漢之前屬於中原政權）。不久後，周軍在鳳州黃花谷大敗蜀軍，蜀軍高彥儔部敗退青泥嶺（今陝西略陽北），周軍連取秦州、鳳州、階州（今甘肅武都）、成州（今甘肅成縣），這四州都是後晉滅亡時，時任雄武軍節度使的何建獻給孟昶的。不該孟昶吃的，到底還是吐了出來。
接下來柴榮又幹了一件事，因此事柴榮在本素不相干的佛教界大大的有名。中國佛教史上有一個名詞叫“三武一宗法難”，說歷史有四個皇帝曾經抑制過佛教的發展。三武是指北魏太武帝拓拔燾、北周武帝宇文邕、唐武宗李炎，一宗就是後周世宗柴榮。
佛教自漢明帝劉莊時傳入中國以來，發展極爲迅速，到了南北朝時期，已經深深的影響了中國歷史發展的進程，著名的梁武帝蕭衍就是個“菩薩皇帝”。隨着佛教對中國政治發展的介入，佛教已經形成一個龐大的利益集團，政治關係錯綜複雜，各種利益衝突也逐漸公開化。三武毀佛，對佛教在中國的發展是沉重的打擊，但往往是“人亡政息”，三武一死，佛教又漸漸恢復了元氣。到了五代，佛教對社會發展的負責影響比較突出，比如寺院佔有良田和壯勞力，國家要出錢養活僧尼，而且許多寺院收集銅器建造佛像，銅價大幅上漲，國家不堪重負。
柴榮準備對周邊敵對勢力大動干戈，沒有一個穩定的政治環境和雄厚的財政基礎是絕對不行的，所以柴榮才下定決心，對佛教進行大規模限制。柴榮頒佈命令，保留一些必要的佛教場所，其餘的寺院一律廢除。
準備出家者必須得到家長的同意才能成爲僧尼，男子十五歲以上並且能讀至少一百篇佛教文章、女子十三歲以上至少能讀七十篇佛教文章的才能出家，不準私自受戒，而且只能到政府規定的幾座大寺院中進行註冊。嚴厲禁止搞迷信活動，不許僧人自殘惑衆（善舉！），禁止私造銅像，把多餘的銅器入繳官府，否則一旦查出私藏5斤銅器以上者論死。
原先在後周境內的33030座寺院只保留了2694座，註冊僧人42444人，尼姑18756人，還俗了61200人。有人認爲柴榮這麼做太過嚴厲，柴榮說了一番大道理：“佛家普渡衆生，以慈悲爲懷，一心向善，心中有就佛，佛像不等於是佛。朕只是對佛教進行改革，並沒有毀滅佛教。朕此舉，一是救佛，二是救民，佛民兩便，有何不可？而且朕聽說佛家普渡衆生，就是自己的身體都可以佈施，損失點銅器土地算得了什麼？如果朕的身體可以拯救黎民百姓的話，朕又有何惜？！”
柴榮真是仁人之見，怪不得大儒司馬光狠狠的把柴榮臭誇了一頓：“若周世宗，可謂仁矣！不愛其身而愛民；若周世宗，可謂明矣！不以無益廢有益。”
經過一番整頓，周朝的實力大大增強，耕種面積大了，老百姓多了地種，自然高興。國家也充實了財政，被寺院";霸佔";的青壯勞力可以徵募入伍。柴榮也許“對不起”佛教，但卻對得起天下！