從這一年起，曹操把自己的據點北遷到了冀州鄴城，政令軍隊此後皆從此出，而漢獻帝的都城許縣則只留些許官吏。
建安十年（205年）正月，曹操又以負約爲名，攻滅袁譚，冀、青二州平定。於是，曹操上表讓還兗州牧，改任冀州牧。
袁尚兵敗後，逃奔幽州刺史袁熙，不久，袁尚、袁熙又逃奔三郡烏桓。同年，黑山軍首領張燕率領其部衆十餘萬人投降曹操。
建安十一年（206年），曹操攻滅高幹，平定幷州。
建安十二年（207年），曹操爲了肅清袁氏殘餘勢力，也爲了徹底解決三郡烏桓入塞爲害問題，決定遠征烏桓。
漢末，遼西、遼東、右北平三郡烏桓結合，是爲三郡烏桓，其首領爲遼西部的蹋頓。三郡烏桓與袁氏關係一直很好，並屢次侵擾邊境，擄掠人口財物。
五月，曹操親率大軍到達無終（今薊縣）。時正雨季，道路積水，“淺不通車馬，深不載舟船”。曹操從無終人田疇之議，改從一條久已斷絕，但“尚有微徑可尋”的路線進軍。
在田疇的引導下，曹操大軍登徐無山（今河北玉田北），出盧龍塞（今河北喜峰口附近），“塹山堙谷五百餘里”，直指烏桓老巢柳城（今遼寧朝陽南）。
八月，曹軍進至離柳城不足二百里時，烏桓才發現，於是蹋頓與袁尚、袁熙等人率數萬騎兵迎擊。二軍相遇，時曹軍輜重在後，“被甲者少，”而烏桓軍軍勢甚盛。
曹操登高瞭望，見烏桓軍雖多，但陣勢不整，遂命大將張遼爲前鋒，乘烏桓軍陣稍動之機，向烏桓軍發動猛攻。
烏桓軍大亂，曹軍陣斬蹋頓，大獲全勝，胡、漢降者二十餘萬，袁尚等人逃奔割據平州的公孫康。
這時，有人勸曹操乘勢進擊公孫康，曹操說：“吾方使康斬送尚、熙首，不煩兵也。”遂率軍還師。
不久，公孫康果然斬殺袁尚、袁熙，並將其首級獻與曹操。諸將不明所以，曹操說：
“彼素畏尚等，吾急之則併力，緩之則自相圖，其勢然也。”
於是，曹操攻破三郡烏桓，也徹底肅清了袁氏勢力。
十一月至易水，代郡烏丸行單于普富盧、上郡烏丸行單于那樓將其名王來賀。同年郭嘉因水土不服、氣候惡劣、日夜急行操勞過度，在曹操北歸前病逝。
歸程途中，據《曹瞞傳》記載：“時寒且旱，二百里無覆水，軍又乏食，殺馬數千匹以爲糧，鑿地入三十餘丈乃得水。既還，科問前諫者，衆莫知其故，人人皆懼。公皆厚賞之，曰：‘孤前行，乘危以徼倖，雖得之，天所佐也，故不可以爲常。諸君之諫，萬安之計，是以相賞，後勿難言之。’”
建安十三年（208年），開闢玄武池訓練水軍。六月，曹操廢三公，恢復丞相制度，並自任漢朝丞相。基本平定北方後，兵鋒轉而南向。
七月，進軍南征荊州劉表。
八月，劉表病死，其子劉琮接任荊州牧。
九月，曹操大軍進至新野，劉琮以爲無法抵擋，舉荊州之衆投降曹操。
這時，官渡之戰後投奔劉表的劉備屯駐於樊城（今湖北襄樊），聽說劉琮投降，便率軍向江陵（今屬湖北）撤退。
江陵爲荊州重鎮，存有大量軍用物資。曹操聽說，怕江陵落入劉備之手，遂親率五千騎兵從襄陽（今湖北襄樊）疾馳三百里，在當陽長阪（今湖北當陽東北）將劉備追上，大破其軍，隨後進佔江陵。
曹操在擊潰劉備後，乘勢想一舉鯨吞江東，孫權、劉備兩家在魯肅和諸葛亮等人的努力下，組成聯盟，孫權命都督周瑜率軍三萬，與劉備的兩萬人馬組成聯軍抵抗曹操。
曹操自江陵東下，至赤壁（今湖北武昌縣西赤磯山）與孫、劉聯軍接戰不利，暫駐軍於烏林（今湖北洪湖縣東北），與對方隔江對峙。
周瑜用詐降之計，命大將黃蓋率小戰船十艘，上裝柴草，灌以膏油，船頭釘上大釘，假稱投降，向北岸而進，至離曹營二里之處時，各船一齊點火，然後藉助風勢，直向曹軍衝去，曹軍大敗，舟船被燒。
曹操率軍從華容道（今湖北監利西北）陸路撤回江陵，撤軍北還。
赤壁戰敗後，曹操採取一些措施，穩定內部。
建安十五年春，曹操下《求賢令》，說：“今天下尚未定，此特求賢之急時也……二三子其佐我明揚仄陋，唯纔是舉，吾得而用之。”
曹操提出不拘品行、唯纔是舉的用人方針，目的是儘量把人才收羅到自己身邊。
建安十六年（211年），曹操開始對關中用兵。三月，曹操遣司隸校尉鍾繇率大將夏侯淵以討伐漢中（治南鄭，今陝西漢中東）張魯爲名進兵關中。
關中馬超、韓遂、楊秋等十部心生疑懼，一時俱反。曹操立即派大將曹仁進攻關中，馬超等人屯據潼關。
七月，曹操率大軍親征關中，大敗關中聯軍，馬超等因之慾割地求和，曹操不允。
九月，馬、韓等再次請求割地，並送任子以求和，曹操採納賈詡的建議，僞許之，並再次大敗韓、馬軍。韓遂、馬超敗走涼州，楊秋則逃回安定，曹軍陣斬成宜和李堪等叛將，關中自此平定。
十月，曹操進軍安定，楊秋投降。曹操率軍撤回，命夏侯淵督衆將繼續西征，在兩年內，逐馬超、破韓遂、滅宋建、橫掃羌、氐，虎步關右，涼州地區基本平定。
建安十七年（212年），漢獻帝准許曹操“參拜不名、劍履上殿”，如漢丞相蕭何故事。
建安十八年（213年），曹操起兵號稱四十萬，親自南征孫權。次年正月，曹軍進至濡須口（今安徽巢縣東南），攻破孫權設在江北的營寨，生擒其將公孫陽。
孫權親率軍七萬，前至濡須口抵禦曹軍。二軍相持月餘，各無所獲。曹操見孫權軍容嚴整，自己難以取勝，遂撤軍北還。
同年五月，復《禹貢》九州。漢獻帝冊封曹操爲魏公，加九錫、建魏國，定國都於鄴城。魏國擁有冀州十郡之地，置丞相、太尉、大將軍等百官。