元順帝至正八年(1348)，臺州黃巖(今浙江黃巖)人方國珍在臺州起兵，拉開了反元的大幕。方國珍的軍隊迅速占領了臺州、溫州、慶元(今寧波)等地，當地官員奈何不得。省里面只得將劉伯溫召出。劉伯溫同事黃伯生在其《誠意伯劉公基行狀》一文里說，省里將劉伯溫召出后讓他當了個浙東元帥府的都事，仍是個從七品的小官，而元帥府即宣慰司，是省里的一個派出機構。

劉伯溫到任后，獻計筑城抵御，果然使方國珍受阻。這時，左丞相招安方國珍，劉伯溫認為招安不妥，因方國珍是第一個起兵反元之人，應乘勝一舉將方國珍剿滅，否則后患無窮。從起義反元這一面來看，劉伯溫這一計確實很毒，若得逞，元王朝將再茍延殘喘一陣也說不定。方國珍聽說后，忙用重金賄賂劉伯溫，希望劉伯溫改變觀點，為他接受招安說點好話，但劉伯溫不受。

方國珍便派人從海上帶重金到京城，賄賂當權者們，終于打通了門路，朝廷決定招安方國珍，一面授方國珍官職，一面反而斥責劉伯溫霸道。方國珍受招安不久，等到喘過氣來后，再次起兵反元，而此時的劉伯溫，雖又被省里重新任用負責剿捕之事，卻又見疑，不給兵權。至此，劉伯溫對元王朝心灰意冷，干脆辭官回家了。劉伯溫回到老家青田后，專心著書，寫下了反映自己政治主張的傳世之作《郁離子》。

劉伯溫已經看出元王朝末日迫近，天下勢將大亂，便在老家青田讀書，著作，韜光養晦等待時機。不久，群雄四起。朱元璋打下浙江金華后，得知劉伯溫、宋濂是江南名士，即以重金禮聘，劉伯溫賣關子，沒有答應。朱元璋手下總制孫炎又親自寫信邀請劉伯溫，劉伯溫才同意出山。

劉伯溫和朱元璋見面后，即向朱元璋陳述了時務十八策。十八策的主要內容是滅陳(友諒)去張(士誠)、滅方國珍、屯兵自養、勿過度擾民、嚴肅軍紀、招納賢士等等。朱元璋讀后非常高興，即將劉伯溫視作心腹。朱元璋初起兵時，奉紅巾軍頭領韓林兒為首。至正十五年(1355)，韓林兒在亳州(今屬安徽)稱帝，國號大宋，朱元璋得到消息，即表祝賀，到了新年，還令中書省為韓林兒專設御座并叩頭禮拜。

群臣皆拜，獨劉伯溫不拜。問他為什么不拜，他說：韓林兒不過是個放牧的小孩子而已，我拜他干什么！顯然，劉伯溫是以這種方式表明他只忠于朱元璋。朱元璋心知肚明，便召見劉伯溫，請教平定天下大計，于是有了一次著名談話，后人稱之為朱劉之間的“隆中對”。劉伯溫向朱元璋分析了群雄形勢，陳述了征討天下大計。劉伯溫說：張士誠目前不過自保而已，不足為慮。陳友諒篡奪了紅巾軍領導權，名號不正，但他占據了上流之地，又時刻想消滅我們，是我們的大敵，因此應當首先消滅他。一旦消滅了陳友諒，張士誠自然勢單力薄，就可以一舉將其滅掉了，然后揮師北上，占據天下！朱元璋聽后大喜，對劉伯溫說：先生有了什么好的計策，都一定要告訴我啊！