公元前202年2月28日，劉邦在山東定陶汜水之陽舉行登基大典，定國號為漢，劉邦當上皇帝，分封異姓王，封蕭何為丞相。直至劉邦死，蕭何都是宰相。

劉邦分型了異姓王以后，覺得異姓王權力太大，就費盡心機奪回異姓王手中的權利。異姓王反叛謀反逃跑等等諸多事件以后，異姓王已經不再劉邦覺得他們是自己的威脅，將他們和地方的名門望族共十幾萬人全部遷到關中居住，置于中央控制之下，消除了后顧之憂。異姓王的權力一小，頓時，丞相的權力太大就明顯的突出了起來。

于是，劉邦覺得丞相的權利太大了。關于丞相的過大權力，劉邦通過把蕭何下獄來打擊削弱相權。在劉邦平定了黥布叛亂回到長安后，蕭何提議把上林苑開放，讓百姓去耕種，因為上林苑基本上已經荒蕪，并不是養獸供皇帝狩獵的地方。劉邦一聽就惱了，硬說蕭何拿了商人的賄賂，所以才替他們說話，借百姓之名為商人牟利。

劉邦將蕭何關進了監獄，幾天后，有大臣問丞相犯了什么罪，劉邦卻為自己狡辯說：“原先李斯做秦國的丞相，凡是功勞都歸始皇，不好的事都由自己承擔。但丞相蕭何卻接受了商人的賄賂，替他們求我開放上林苑，刁買人心。因此要治他的罪。”通過打擊元老功臣蕭何，劉邦在削弱相權的同時將皇帝的權力提高了。

蕭何一直備受劉邦的恩寵，而劉邦突然的將自己下獄，蕭何很不理解，就召了門客出主意。一個門客全蕭何說，是因為蕭何權力太大，受到百姓的擁護，不就以后將要滿門抄斬，只有自污名節，讓百姓罵他，才能讓劉邦放心。于是，蕭何聽從了門客的主義。

蕭何當時已是60多歲的老人了，見劉邦開恩釋放了他，更是誠惶誠恐，謹慎恭敬。雖然因為全身帶上刑具，害得他手足麻木，連路都快走不動了，而且蓬頭赤足，污穢不堪，但又不敢回府沐浴再朝拜天子，只得這樣上殿謝恩。劉邦見蕭何如此狼狽，也覺得有些過意不去，便安撫蕭何道：“相國不必多禮！這次的事，原是相國為民請愿，我不允許。我不過是夏桀、商紂那樣的無道天子罷了，而你卻是個賢德的丞相。我之所以關押相國，就是要讓百姓知道你的賢能和我的過失啊！”劉邦的這段話雖然言不由衷，但對蕭何的廉政為民，終于還是默認了。從此以后，蕭何對劉邦更是誠惶誠恐，恭謹有加了。劉邦也照例以禮相待，但蕭何從此對國事就只能保持沉默了。

漢十二年(公元前195年)四月二十五日，漢高祖劉邦病逝于長樂宮，享年62歲。同年，太子劉盈即位，是為惠帝。蕭何繼任丞相。