公元208年七月，統一北方之后的曹操親率大軍三十萬南下進攻劉表。八月，劉表病故，其子劉琮在荊州治府襄陽投降。強敵壓境，新野肯定是守不住了，劉備命關羽率萬名士兵沿水路撤退，自己率領兵士、愿意追隨的百姓十余萬人走旱路，約定在襄陽南部的江陵(今湖北沙市西北之江陵)會合。江陵是整個荊州的物資儲備基地，有人勸劉備拋棄百姓迅速搶占江陵，劉備這個人，越是在危難時刻越能堅守信義，即使冒著風險也不背棄，所以拒絕了這一建議。不久后，十多萬軍民在長坂(今湖北當陽東北)被曹軍追上并擊潰，兩個女兒都被擒獲。劉備、諸葛亮和張飛、趙云等少數騎兵逃脫，改道東南會合關羽撤往夏口(夏水(漢水下游的古稱)入江口，今湖北漢陽西南)。

《關羽傳》裴注引《蜀記》記載：望著飄飖無盡的江水，想起這些年來被曹軍趕得東奔西跑幾乎無容身之地，關羽生氣的說道：“當初在許都打獵時要是聽了我的話，哪會有今日之困呢？”劉備寬慰他說道如果天道扶正，誰能保證今天的困境不是福呢？這一次還真讓劉備說中了，世上沒有常勝將軍，曹操被一直以來的勝利沖昏頭腦，打算將劉備和江東的孫權勢力一同消滅掉。但是曹軍兵士大都是北方之人不習水戰、水土不服疫病流行又難以持久，兵多反而成了拖累后勤的累贅。而劉備遣諸葛亮出使東吳與孫權結盟，孫劉五萬聯軍先在烏林擊敗曹軍使其不敢貿然進入長江以南，再用火攻徹底燒毀了曹軍連鎖戰船和江北水寨。前后不足三月，創造了中國歷史上以少勝多的著名戰例——赤壁之戰！曹操被打得大敗，命曹仁守江陵、樂進守襄陽，自己帶著敗軍退回北方。

大敗曹操后，孫劉聯軍緊接著面臨收復荊州失地的問題。《周瑜傳》裴注引《吳錄》記載：劉備對吳軍主帥周瑜說：“曹仁的江陵城內糧草很多，是非常大的麻煩。我派張飛帶領千人協助你正面進攻，你也分兩千人給我，我沿夏水水路截斷曹仁的后路，這樣曹仁肯定棄城逃走。”周瑜聽后，答應了請求。

于是張飛隨同周瑜正面攻城，劉備從水路進入后方斷掉曹仁的歸路，而關羽的任務則是切斷江陵與襄陽的聯系，襲擊從北面襄陽增援而來的曹軍。這件事記載在從汝南趕來增援的曹軍將領李通的傳記當中(《李通傳》記載：劉備與周瑜圍曹仁于江陵，別遣關羽絕北道)。通過戰前劉備奪取江陵的戰略規劃可以得知孫劉聯軍的目的是前后包抄讓曹仁知難而退而非圍殲曹仁，在江陵之戰進行的同時劉備又遣軍隊成功收復了長江以南的荊州四個郡，所以可以推斷出無論是包抄江陵的劉備還是絕北道的關羽，他們二人所統率的部隊都不會太多。

當時關羽在江陵與襄陽之間，要面對的敵人非常多：守衛襄陽的樂進、守衛當陽(今湖北當陽以東)的滿寵、配合樂進作戰的江夏(郡治在今湖北陽新境內)太守文聘以及李通。翻開這些曹軍將領的傳記，大致可以歸納為樂進與文聘在尋口(今湖北安陸西南)將一直游擊的關羽軍打退，文聘襲取了關羽在漢津(今湖北武漢)的軍用物資，燒毀了他在荊城(今湖北鐘祥西南的漢水西岸)的船只。奉命馳援的李通最為勇敢，沖入包圍圈且戰且前，并且親自下馬拔除鹿角，但遺憾的是還沒有完成任務就病逝于途中。最終沒有任何一路曹軍抵達江陵，應該說關羽絕北道總體上是成功的，曹仁與周瑜相持了一年多，雙方傷亡都很大，周瑜也被流矢擊中右肋，最終沒有盼到援軍的曹仁棄城而去，江陵被吳軍攻占。

一年多后，周瑜病逝，由魯肅接替統帥一職，魯肅為了鞏固孫劉聯盟將江陵借給了劉備。《關羽傳》中記載：“劉備封賞建立頭功的人，任命關羽為襄陽太守(此時襄陽依舊在曹操手中)、蕩寇將軍，駐扎在江北。后來劉備和諸葛亮、張飛、趙云等人進入西川平定益州后，任命關羽統管荊州事務。”就此，關羽成為了荊州方面獨當一面的統帥。