安北將軍王浚與司馬穎向來有矛盾，這次司馬穎劫了惠帝，王浚就想報復。他索性糾合鮮卑兩大部落，并和司馬越的弟弟、寧北將軍東嬴公司馬騰聯合，共同前往鄴城來討伐司馬穎。司馬穎派北中郎將王斌及石超等出兵。

發兵之后，司馬穎又害怕東安王司馬繇接應外兵，便擅自將他拿下，并處死了他。

這次事變，司馬繇的侄子司馬睿逃出鄴城，偷偷回到了領地，后來成為東晉的第一個皇帝。

這時，匈奴族的左部帥劉淵獻計說，愿意為司馬穎召集五部都督共同作戰。司馬穎大喜，拜劉淵為北單于，要他立刻出發。

劉淵回到匈奴地界，右賢王劉宣等人見到他十分高興，立即聯合各部落，尊奉他為大單于。劉淵一番假意退讓后，坐上了寶座，定都離石。數日后，即召集了五萬多人。他命令部將劉宏率領鐵騎五千，前往鄴城救駕。

可還沒等劉宏到來，鄴城已經失守，司馬穎已帶著惠帝逃回洛陽。劉宏中途得到消息，只好無功而返了。

由于司馬穎與晉惠帝是打了敗仗倉皇出逃，所以跑到半路就沒有糧食了。幸好有個黃門小官還隨身攜帶著三千文私房錢。晉惠帝便向他“貸款”，買一些粗劣難以下咽的糧食來勉強充饑。

他們逃走了，可憐的卻是鄴城百姓。王浚勾結的鮮卑人擄掠了數萬名漢族少女，回師途中一路上大肆奸淫，然后把她們充作軍糧，宰殺烹食。走到河北易水時，吃得只剩下八千名少女了。鮮卑軍隊又不想把她們放掉，于是將八千名少女全部淹死，易水為之斷流。

卻說劉淵看到劉宏回來，非常憤怒地說：“司馬穎不聽我的話，居然棄城而逃，真是無可救藥。而當年我又得他恩惠，既然說好要救他，不可失約呀！”但是右賢王劉宣等人勸阻道：“可惡的晉人像對待奴隸一樣對待我們，我們正想著要報復，現在又要我們去討伐鮮卑。鮮卑、烏桓和我們是同類，怎么能夠骨肉相殘呢？何況大單于威名遠揚，不但可以控制中原，就是呼韓邪的基業也可以恢復了。”劉淵見手下的人群情憤慨，知道時機成熟，就笑著把真話說了出來：“我今天已經率領大軍十萬余人，個個英勇善戰，與晉兵交戰，以一敵十，上可比漢高祖，下不失魏武帝，何況恢復呼韓邪基業呢？”劉淵于是決定不再支援司馬穎，遷徙至左國城(今山西離石北)，迫不及待地樹起了“大漢”的旗幟，成為舊時史家所言“五胡亂華”之始。

匈奴人建國，為什么要取個“漢”字呢？原來劉淵心想，昔日大漢天子很得人心，這就是為何漢昭烈皇帝劉備僅在益州就可以和吳魏抗衡的原因。我本來就是漢室的宗親，兄亡了弟繼承，我稱漢王便是了，于是仿效漢朝的典禮來祭天地。登基的那天，五部都督都來恭賀。劉淵登上漢王王位，宣布大赦，年號為元熙，時在晉永興元年(公元304年)。永嘉二年(公元308年)，劉淵又稱漢帝，建都平陽(今山西臨汾西南)。劉淵還改年號為永鳳，追尊安樂公劉禪為孝懷皇帝，制作漢高祖、世祖、昭烈皇帝三祖和漢太宗、世宗、中宗、顯宗、肅宗五宗的神主來祭祀;并立他的妻子呼延氏為王后。同族侄子劉曜天生白眉，目光炯炯有神，兩手長過膝蓋，身材挺拔魁梧，善騎射又善文字，磊落高尚，此時擔任建武將軍。

差不多同時，巴蜀地區也有位叫李雄的人在稱王了。

李雄就是李流的侄子，李特的兒子。他占據成都數月后，見涪陵人范長生在蜀地百姓眼里很有威望，就想自己作為丞相迎立他為國君。但是，范長生沒有答應，李雄只好在晉永興元年(公元304年)十月自己登上了王位，稱成都王，宣布大赦天下，改年號為建興。建興三年(公元306年)，李雄任用范長生為丞相，自己稱皇帝，國號“大成”。李雄登基后，先廢除晉朝法律，自建了七章法律。接著，他讓叔叔李驤擔任太傅，兄李始擔任太保，李離任太尉，李云任司徒，李璜任司空，李國任太宰，閻式任尚書令，楊褒任仆射;還尊奉母親羅氏為王太后，追尊父親李特為成都景王。

話題又回到劉淵身上。他登基不久，就率領眾人去攻打東嬴公司馬騰。司馬騰大敗，向山東逃去。

劉淵又令大將喬晞進攻介休。介休縣令賈渾登城死守，但孤城無糧，不久便被喬晞擒住，要他投降。賈渾厲聲罵道：“我是大晉的守令，現在不能保全城池，已失臣道了，還要茍且偷生，為賊虜賣命，還有什么面目去見黎民百姓？要殺就殺，我決不投降！”喬晞一聽到“賊虜”二字火冒三丈，立即將賈渾拖出斬首。也有人勸他保全賈渾，好教導大家要盡忠職守，但是喬晞大喝：“他盡忠的是晉朝，和我們大漢有什么關系。”忽然有一青年婦人嚎哭著來到賈渾面前與他訣別，喬晞叫人將她抓到自己面前，要她報出來歷，說是賈渾的妻子宗氏。喬晞見她頗有姿色，不由得憐憫起來，說：“何必哭泣呢？我這里正好缺一位佳人。”還沒說完，賈渾的頭已經被砍了送入。宗氏更是號啕大哭。喬晞獰笑道：“不要這樣，到后帳好好休息一下，我來替你壓驚。”宗氏聽了，不哭了，指著喬晞罵道：“胡狗，天下還有害死丈夫還想侮辱妻子的人么？我寧可斷頭也不被你侮辱，要殺快殺，不要妄想！”喬晞不忍心下手，但被宗氏罵得激動，竟然拔出佩劍。宗氏當即奪過劍來自刎而亡，隨夫而去，年方二十。劉淵得知后大怒，罵道：“喬晞敢殺忠臣夫婦，若有天道，他還指望要留后么？”于是下令厚葬賈渾夫婦，將喬晞降職。