至正二十三年(1363年)四月，陳友諒親率六十萬大軍，自武昌沿長江東下，入贛江包圍洪都，以報前仇。七月，朱元璋自率水師二十萬，與陳友諒在鄱陽湖展開決戰。兩軍相遇康郎山。陳友諒遣驍將張定邊正在圍攻朱元璋，忽然被一支箭射中額頭，射箭的不是別人，正是大將常遇春。常遇春和俞通海及時趕來，幫朱元璋解圍。張定邊身負重傷不得不撤退。這時，江水忽然漲潮，把朱元璋的船托得老高，幫他殺出重圍。雙方一場激戰，不知不覺已到日落時分，朱元璋鳴金收兵，并和徐達一同商議。朱元璋說：“我當初讓劉伯溫守金陵是為了防止張士誠偷襲，眼下強敵未退，你快些趕回去替他守城，讓他過來和我一起商議軍機！”

劉伯溫正在路上時，陳友諒又前來挑釁。朱元璋只好派兵迎敵，可不知怎么的，派出去的部隊大多戰敗而歸。正當朱元璋惱羞成怒時，郭興進言說：“敵艦高大，我們的小船肯定不是對手，目前只有使用火攻！”可朱元璋說，前些時候用的火攻也沒見什么成效。這時，劉伯溫剛好乘船抵達，他向朱元璋舉薦了兩個人：一個是鐵冠道人張景和，曾經預言過朱元璋必將大有作為;一個是僧侶周顛，博學多才，卓識遠見，是劉伯溫的良師益友。朱元璋盼來了軍師又添兩位高人，禁不住心花怒放，立即向劉伯溫請教對策。劉伯溫吩咐朱元璋暫且退兵，然后使用火攻。朱元璋說：“不少人都提議用火攻，但是陳友諒的船那么多，風勢又不穩定，怎么燒得完呢？”這時鐵冠道人張景和忽然大笑起來：“你是天子下凡，有神靈護佑，還擔心沒有大風相助么？”朱元璋追問何時有風，周顛忽然插話說：“今天黃昏就有東北風。”朱元璋覺得兩位高人神機妙算，便又追問陳友諒的下場和自己的前景，周顛說：“陳友諒無緣皇帝的寶座，而你固然有災星臨頭，但定有貴人相助，不必多慮。”聽聞此話，朱元璋心中有了底氣，于是吩咐劉伯溫跟隨自己前去破敵。

到了傍晚，江面上忽然刮起一陣大風。陳友諒正率領士兵巡邏，忽然遠遠望見江中駛來七艘小船，滿載著士兵，于是連忙下令弓箭手射擊。可這些士兵仿佛不怕利箭，依然屹立不倒。陳友諒急忙派人登船前去殺敵，走近一看，才發現船上坐的只是一群稻草人。此時，潛藏在船下的勇士，突然點著了船里的硫磺和火藥。風助火勢，陳友諒的大船紛紛起火，此時，常遇春也帶兵殺來，急得陳友諒不知所措。濃煙滾滾，四處彌漫，再怎么勇猛的將士，也敵不過煙霧帶來的窒息，陳友諒的弟弟陳友仁和陳友貴先后死于大火。眼看大勢已去，陳友諒只好狼狽而逃。

陳友諒逃了一陣，越想越氣，決定第二天卷土重來，他發現朱元璋所乘的船桅桿是白色的，于是吩咐手下只要看見白色桅桿的船就發起攻擊。可第二天陳友諒趕到前線一看，發現所有敵船的桅桿都是白色，情急之下，陳友諒下令軍隊全力猛攻。此時，朱元璋鎮定自如地在船上指揮戰斗，突然劉伯溫讓朱元璋趕緊換船。朱元璋剛登上另一艘船，只聽身后一聲巨響，原來的船就被炮彈擊得粉碎，瞬間沉沒。劉伯溫高興地說：“災星已經過了，主公盡請放心！”陳友諒聽到巨響，以為朱元璋被炮轟死了，便下令退兵。

朱元璋哪里肯讓陳友諒大搖大擺地撤退，他命令廖永忠和俞通海駕駛六只小船，悄悄地靠近了陳友諒的戰船。小船里的將士飛速地登上了大船，頓時殺聲震天，濃煙四起。一面是敵人突襲，一面是大火包圍，陳友諒的士兵大多死于非命。陳友諒自知大勢已去，于是在張定邊的協助下再次逃走。朱元璋追到了罌子口，見水面狹窄，不便深入，所以決定暫時撤軍。此后，朱元璋給陳友諒寫了一封信，借機羞辱陳友諒閉門不出，膽小如鼠。

恰好此時，陳友諒的兩位將軍前來投降，可見陳友諒已經是眾叛親離。當朱元璋得知陳友諒不遵守交戰規則，任意屠殺俘虜時，頓時變得異常氣憤，可他很快就控制住了情緒，再次提筆給陳友諒寫信，信中說：天下英雄，就數你我二人，可你為何度量如此狹小，要濫殺我的將士？你的領地已被我占領，就算你僥幸逃脫，也不是長久之計，你好好考慮吧，否則后果自負。

陳友諒看過信件，置之不理，依然往洪都運送糧草，可偏偏又被朱文正半路截獲，陷入了進退兩難的境地。過了幾天，陳友諒再次集結殘兵敗將與朱元璋一決雌雄，可他既不得天時也不得地利，只剩大敗一條路可走。陳友諒兵敗如山倒，最后只有帶著張定邊一人出逃。朱元璋追了好一陣，忽然遇上了在江面上劃船高歌的鐵冠道人張景和，朱元璋趕緊詢問：“張道人！你怎么還有閑心在這里消遣啊？”張景和說：“陳友諒都死了，我為什么不能消遣？”朱元璋不信，張景和大笑起來：“你是皇帝，我是道士，我和你打賭，拿腦袋做賭注如何？”正當此時，忽然有人前來報信，說陳友諒被箭射穿了腦袋死于江中，這果然應驗了張景和的預言。這是至正二十三年八月的事。這月，朱元璋改洪都府為南昌府。

朱元璋追剿陳友諒的殘部，抓獲了他的妃子阇氏和長子陳善。第二天，陳榮帶領五萬人前來投降，再次證實了陳友諒戰死的消息，他的尸首則被張定邊和小兒子陳理帶到武昌去了。陳友諒稱帝才四年，死的時候不過四十四歲，可謂是心比天高，命比紙薄。

朱元璋高奏凱歌，榮歸應天府，他封賞了有功的將士，大擺宴席，金陵城內頓時歌舞升平。此后，朱元璋覺得阇氏雖然是陳友諒的妃子，但她畢竟有幾分可憐，于是納她為妾。

大軍修養了幾個月，朱元璋派常遇春帶兵圍攻武昌。第二年，即至正二十四年(1364年)一月一日，朱元璋在應天府自稱吳王，封李善長為右相國，徐達為左相國，劉伯溫為太史令，常遇春和俞通海做了平章政事。又過了幾個月，朱元璋還沒有聽到攻下武昌的喜訊，便決定親自前往