1260年，蒙哥汗在四川合川攻城中，中流矢身亡。

消息傳來，當時忽必烈正統帥三路大軍圍攻鄂州(武昌)，宋丞相賈似道屯兵漢陽，重慶之宋軍也南下援鄂。奉命從云南北上的兀良哈臺將軍的部隊，也在潭州(今長沙)受阻，忽必烈不得不分兵解圍才與之會合。

這時候，忽必烈的妻子察必從漠北捎來信息，留守帝國首都哈喇和林的忽必烈幼弟大有奪取汗位之勢。情勢緊迫，斷不可猶豫再三。忽必烈在軍前召集幕僚商議。郝經建議“斷然班師，銷禍于未然“，廉希憲也建議“愿速還京，正大位以安天下“，正在此時，賈似道恰好遣使約和，于是雙方商定，以長江為結，宋向蒙古每年納銀二十萬兩，絹二十萬匹。

忽必烈輕車簡從到達燕京(今北京)，駐其近郊。而這時候，阿里布哥已派脫里赤在燕京召集軍隊包抄忽必烈。忽必烈遣散了脫里赤的軍隊，同時秘令自己的軍隊火速北返。這時候，阿里布哥派信使召集忽必烈參加漠北和林的忽里勒臺會議，選舉新汗。忽必烈未予理睬，并命廉希憲到開平(后稱上都，今內蒙古正藍旗)，觀察事態發展。又命塔察爾赴宗王塔察爾處，勸其支持忽必烈為汗，得到塔察爾的贊同。

忽必烈返回開平，召集部分宗王開會，在他們支持下，忽必烈登上大汗位。按照成吉思汗定下的扎撒規定，蒙古選汗必須在鄂嫰河之地召開選汗大會，而且必須有各系宗王參加，忽必烈自行選汗，顯然有違傳統。在哈喇和林的選汗大會上，阿里布哥得到術赤系察哈臺系窩闊臺系大多數蒙古宗王的支持，即大汗位。

忽必烈另一個弟弟旭烈兀，正領軍發動第三次西征。旭烈兀當時已攻克巴格達，敘利亞蘇丹納昔爾派其子向旭烈兀表示臣服，旭烈兀將使者遣回，要求納希爾投降。蒙古大軍繼續西進。旭烈兀兵分三路，進軍敘利亞，先后攻占美索不達米亞北部諸城，渡過幼發拉底河。旭烈兀架炮攻城，納昔爾逃奔埃及，蒙古軍隊占領大馬士革。這時候，傳來蒙哥汗死訊。旭烈兀于是班師，回到波斯。回到波斯后，旭烈兀得知忽必烈已經在開平即大汗位，并且和阿里布哥發生了汗位之爭。旭烈兀與忽必烈關系向來不錯，于是決定不在赴和林，而留在波斯。

這樣，由于汗位之爭，蒙古帝國正式分裂。其中支持阿里布哥的術赤系別兒哥，封地為從額爾齊斯河到第聶博河(烏克蘭)的廣大地區，統治中心在伏爾加河的薩萊(阿斯特拉罕附近)。支持阿里布哥的窩闊臺系海都，封地為準噶爾盆地北部，包括今塔城、阿勒泰地區和蒙古的西部。察哈臺系汗位虛懸(后為阿里布哥派出的阿魯忽)，封地為東至伊犁河流域，西至阿姆河流域的土地。由于察哈臺系和窩闊臺系曾反對蒙哥即位，所以阿姆河和錫爾河之間的河中地區被劃給了支持蒙哥汗的術赤系。高昌(維吾爾)由于亦都護歸屬成吉思汗較早，保留了自己的領地，不屬于任何宗王的封地，歸蒙古大汗直轄。阿姆河以西，直到地中海，包括波斯伊拉克敘利亞小亞細亞，歸拖雷系旭烈兀統轄，統治中心在波斯的大不里士。

一場以忽必烈和旭烈兀為一方，以阿里布哥和術赤系別兒哥窩闊臺系海都察哈臺系阿魯忽為另一方的大戰即將開始了。這是當時世界上最強大的軍隊。當時世界其他地區的形勢是，在術赤封地以西，是羅馬教皇的基督教世界(西班牙在阿拉伯穆斯林統治下)。在旭烈兀封地以西的小亞細亞，基督教的東羅馬帝國的拜占廷還在君士坦丁堡茍延殘喘。在旭烈兀封地以南的埃及，是一個通過政變上臺的突厥人建立的穆斯林王朝，羅馬教皇派出的英國人和法國人組成的十字軍和穆斯林埃及正不斷發生戰爭。

蒙古國家軍隊的主力，原由蒙哥汗統帥進攻南宋，蒙哥汗蒙難后，四川方面蒙古軍進攻不得不停下來。在大將哈喇布花率領下，退居六盤山與渾都海部會合。阿里布哥分遣阿藍答兒進軍西涼府，與哈喇布花渾都海部會合。另遣玉木忽兒和哈喇察爾南征。又派霍魯懷，劉太平赴陜西，欲與六盤山駐軍聯絡，自關中進兵。忽必烈命廉希憲為京兆等路宣撫使，與商挺同往。廉希憲到任后，先發制人，以謀反罪處死了霍魯懷和劉太平。接著，忽必烈詔令八春為陜西四川宣撫使，節制諸軍。命汪良臣統帥陜西漢軍，監視六盤山部隊。阿里布哥令阿藍答爾領兵到西涼府后，與渾都海軍會合東來。忽必烈命諸王合丹合必赤和八春汪良臣等率蒙漢諸軍，與六盤山軍隊會戰耀碑谷，啊里布哥軍大敗，阿藍答兒渾都海等被殺。

于是忽必烈決定親征和林。阿里布哥敗逃謙謙州(既唐奴烏梁海，今圖瓦)。忽必烈命宗王移相哥統領一軍駐扎和林，以待阿里布哥。自己領兵南返。在燕京賞賜擁立諸王。然后返回開平。

在說察哈臺汗國，由于察哈臺系和窩闊臺系在蒙哥選汗時反對蒙哥汗，河中地區被蒙哥汗劃給支持他的術赤系，自己封地僅限東部，而且察哈臺孫哈喇斡忽勒在返回途中夭折，其妻兀魯忽乃可敦監國達十余年。蒙哥大汗死后，由于發生了忽必烈和阿里布哥的汗位爭奪，忽必烈和阿里布哥都企圖占據察哈臺汗國。該地區成為角逐之地。忽必烈派曾供職于他身邊的察哈臺曾孫阿必夫和的兒子兀魯乃任察哈臺汗國國主。不想途中被阿里布哥軍隊所殺害。阿里布哥以謙謙州為基地，控制了察哈臺封地，并派察哈臺六子拜達爾之子阿魯忽成為察哈臺汗國國主。同時命他軛守阿姆河，防范旭烈兀東接忽必烈。