而他則率剩餘的所有西涼鐵騎四萬騎，及甲騎具裝營和陷陣營，向郿縣進發。
但到了郿縣之下，馬超只看見袁滂駐守在此，不見了皇甫嵩。馬超便率軍繼續東行，半個時辰後又到達槐裡城，見守城的官軍並沒有多少，只由鮑鴻駐守，馬超便繼續率軍，很快就來到了長安城下。
這時的長安城和同時代其他的城池一樣，並不是像明清城池以磚砌成，而是以黃土夯實了，一層一層地版築、堆高，而形成的。在平曠的關中平原上遠遠看過去，就像一座方形的土山。在土黃色爲主要色調的數丈城牆之上，建有高大雄偉的城樓、直插雲端的角樓、整齊排布如鋸齒狀的雉堞，十分堅固。
這時的長安城還與唐長安城有所不同，唐長安城處於渭水北岸，而漢長安城位於渭水南岸。而且漢長安城只建設起了宮城，並未修建外郭城。也就是說，長安城的城牆內，只有未央宮、長樂宮、建章宮等宮室，和比宮殿區面積狹小很多的東西兩市。而長安城的居民所居住的裡，全都居於宮城之外，沒有外郭城保護。
親眼見到看到漢長安城，馬超才明白，爲何後世發掘出的漢長安城遺址只有長樂宮、未央宮、建章宮、明光宮、桂宮等宮室，和東西兩市、高廟、武庫、城門和城牆，卻並沒有百姓所居住的裡了。
原來是裡都分佈在城牆之外，而漢朝並未給裡修建起一道郭牆。
在後世，針對漢長安城遺址只發掘出宮殿區和城牆，而沒有發掘出裡，考古學家們分成兩派。一派認爲，漢長安城就是沒有裡，沒有多少百姓居住在長安城；一派認爲，漢長安城確實有裡，但沒在宮城之外，營建起郭牆，裡就暴露在長安城外。
以前馬超也曾經篤信漢長安城無裡，無太多百姓居住。現在看來，是他想錯了。
在長安城西郊，有太液池、漸臺、神明臺、雙鳳闕、和建章宮的前殿。高大的雙鳳闕，還高出長安城牆幾丈。
馬超仔細一看還發現，長安城南郊，還有兩座高大宏偉的樓閣，是辟雍和社稷。在辟雍和社稷之間，本來還有“王莽九廟”。但很快東漢建立後，“王莽九廟”就被摧毀，只留下辟雍和社稷。
正當馬超看着這氣勢磅礴的長安城，看得津津有味時，西城牆、直城門之上的城樓上，一面最大的紅旗，吸引了馬超的注意力。那面旗幟，正是皇甫嵩的大纛。皇甫嵩也正站在他的大纛之下，俯瞰着城下馬超。
官軍擊鼓，立即把馬超從欣賞長安城上給拉了回來。馬超命令部曲在太液池與神明臺之間排列成陣，並命令一部上到了神明臺上，遍插旗幟。太液池和神明臺距離長安城有五里，（漢代一里，合415米），正對着雙鳳闕和建章宮前殿，也正對着雙鳳闕和前殿之後的直城門。在直城門之上的城樓的皇甫嵩，能夠把西涼軍盡收眼底。
面對西涼軍佔據了神明臺，皇甫嵩也無可奈何。他知道，以現在這樣的局勢，他再率軍野戰，必敗無疑。只有堅守不出，才能守住長安城，斷絕馬超對於關中的野心。
馬超見皇甫嵩在長安城，就知道這皇甫嵩倒還挺有戰略眼光的，他深知長安城是整個關中的心臟，若不以重兵駐守，後果不堪設想。
馬超想抵近到直城門之下，又怕建章宮前殿之中有伏兵，便先派數百騎前去偵查，才發現殿中並無伏兵，便毫無顧忌地騎着小白，一直奔至雙鳳闕下，才停住。因爲有高大的闕擋着，哪怕距離城牆只有幾十步，也能不被官軍的箭矢所傷。
馬超在雙鳳闕下，對着直城門上的城樓下的皇甫嵩喊：“皇甫老將軍，在此否？”
皇甫嵩靠近雉堞一些，向下喊：“馬兒，找老夫何事？”
馬超聽了也不惱，笑道：“無事，只是來親自問問車騎，在扶風之戰中，損失了多少官軍？”
皇甫嵩大怒，說：“我軍兵力仍舊充足，你只需要知道這一點就夠了。”
馬超笑道：“老將軍欺吾。若官軍兵力充足，怎麼會龜縮在郿縣、在槐裡、在長安城內，不敢出城與吾再來一場野戰呢？”
皇甫嵩無言以對。
馬超笑道：“以吾領兵一年所積累的經驗來看，老將軍恐怕折損了五六萬的兵力。目下之兵力，大約只有五六萬吧！官軍之前兩倍於我軍，人多勢衆，方纔敢與我軍交戰。現在官軍兵力大致與我軍相當，官軍戰力本又弱與我軍，因而老將軍纔不敢再輕易出戰，只能龜縮城內，堅守不出了。”
皇甫嵩冷冷地說：“馬兒，老夫不得不承認，你所說的都是事實。老夫是被迫守城不出不假，但你有能力，攻破老夫重點防守的長安城、郿縣和槐裡城嗎？這三座城池連成一線，若你不攻下，你就拿不下關中。拿不下關中，你就只好率軍退出京兆，退回右扶風。”
馬超笑道：“老將軍此言差矣！長安城乃關中心腹，老將軍與官軍主力俱在此處。只要吾攻下了長安城，擊敗了官軍主力，那麼處於長安城控制範圍之內的郿縣和槐裡城，皆自然不足掛齒。”
皇甫嵩知道馬超所說是真的，心裡恐懼，但仍舊強打精神喊道：“好啊！那老夫就在這長安城上，等待足下你，率軍攻克！”
賈詡追了上來，到馬超身邊，低聲說：“長安城高大堅固，周圍又有衆多的宮殿樓闕，百姓裡坊，辟雍社稷，掣肘極多。我軍又都是鐵騎，少主萬不可攻城。”
馬超道：“這吾自然省得。吾已經另有打算。”
賈詡便退下了。
馬超笑道：“老將軍以爲吾有這般愚蠢，會用一羣鐵騎去攻城嗎？”
皇甫嵩不屑地笑了，說：“老夫聽說，你父子二人竟然把繳獲的軍糧全都用給流民。你之軍糧已經所剩無幾，若不攻下長安城，獲取長安城儲備的糧秣，那你就只得因爲糧盡而退兵了。”