大家都知道，明清時期是中國古代中央集權統治高度集中的時代，在明朝以前，朝堂之中除了皇帝，還有權力比較大的宰相輔佐皇帝。但是明朝建立之後朱元璋在設置了一段時間的宰相之後，便徹底廢除了宰相制度。
元朝時期出現了多次宰相把握大權架空皇帝的情況，這也是元朝滅亡的原因之一，估計朱元璋也是想要吸取元朝滅亡的教訓。在朱元璋開國做了皇帝之後，還是設置了宰相輔佐自己的，後來他對宰相李善長心生不滿想要換掉他，於是便找來劉伯溫商量，看看讓誰做宰相最合適。
一、劉伯溫否決朱元璋提出的人選
朱元璋提出更換宰相的時候，劉伯溫便開始拒絕，劉伯溫認為宰相好比一座大房子的樑柱，要是撤了樑柱，那房子非倒塌不可。而朱元璋則提出讓楊憲來做宰相，劉伯溫立刻給予了否決，他告訴朱元璋：楊憲為人心胸狹窄，不是做宰相的人選。緊接著朱元璋又提出讓汪廣洋做宰相，而劉伯溫認為汪廣洋心胸還不如楊憲，所以更加不行。
最後朱元璋提出的人選是胡惟庸，而劉伯溫還是給否決了，他說如果胡惟庸做宰相的話，說不定就能把大明王朝這輛巨型馬車給掀翻了。一連三個人選都給否定了，那應該由誰來擔任宰相呢？這似乎就剩下劉伯溫自己了。
劉伯溫出山輔佐朱元璋就是以謀士的身份，他是朱元璋的功臣之一，為人有機敏有才，也是很好的宰相人選。可劉伯溫卻根本不想做宰相，朱元璋原本想要讓他做宰相，但是劉伯溫卻推辭說自己性格耿直、脾氣也不好，根本做不了宰相。自己不想做宰相卻也不同意朱元璋看中的人做宰相，劉伯溫究竟打的什麼算盤？
二、劉伯溫對朱元璋的心思洞若觀火
其實劉伯溫就是太了解朱元璋了，所以既不同意楊憲等人做宰相，自己也不願意摻和進去。朱元璋早早就有了廢掉宰相的念頭，他太害怕自己手中的權利被人撼動了。而開國功臣們個個功高震主，要人望有人望，要能力有能力，宰相距離皇帝的權力實在是太近了，要是開國功臣們做了宰相無疑是對君權的一種威脅。
劉伯溫的確是非常聰明，以至於民間將他傳得神乎其神，前有諸葛亮，後有劉伯溫，這都是神機妙算神仙一般兒的人物。當然，劉伯溫神機妙算是假，但是他對君王的心思了解得夠透徹，關鍵時刻洞若觀火，這才是他最聰明的地方，以至於朱元璋大肆屠殺開國功臣之時，劉伯溫落個不算太悲慘的下場。
後人經常拿劉伯溫與諸葛亮相比，諸葛亮能在蜀漢做丞相，大權在握。那麼劉伯溫在朱元璋的朝堂上做個丞相也不過分吧。
劉伯溫特別清醒，諸葛亮有劉備這樣心胸寬廣的君主，劉禪雖然昏庸，但並不刻薄寡恩。諸葛亮權力再大也不會有被君主殺害的恐懼。而朱元璋可不是劉備、劉禪，沒有那麼寬廣的心胸，劉伯溫知道朱元璋早有廢掉宰相的心思，所以自己不會去爭奪，而他之所以否認朱元璋提出的其他人，也是不想讓這些人白白送死。
當時在位的宰相是李善長，李善長是早年跟隨朱元璋打天下，可以說立下過大功，手中還握有朱元璋給的丹書鐵券，自己可以免死兩次，兒子可以免死一次，可以關鍵時刻用上。所以即便是以後朱元璋發難，李善長的下場不會太慘。如果是換做他人可不一定那麼幸運了。所以劉伯溫不同意朱元璋換宰相。
三、朱元璋屠殺功臣、廢除丞相制度
朱元璋自然是不會聽劉伯溫的，楊憲、汪廣洋、胡惟庸三人都曾被任命為宰相，而且都死在朱元璋的刀下。劉伯溫拚命想要阻止的事情還是發生了。尤其是胡惟庸謀反一案，牽連被殺的人多達幾萬人，朝中更是有諸多功臣被牽連在內。也是在經過此案之後，明朝不再設置宰相，君權進一步得到集中。可以看出，朱元璋完全就是想借著殺胡惟庸實現那藏在心裡多年的想法——廢除丞相制度。
而劉伯溫似乎還是將朱元璋想得太好了，他認為可以得以善終的李善長，並沒有得到善終，朱元璋給李善長也安了一個謀反的罪名。當時的李善長已經七十多歲了，就是有謀反之心，也毫無謀反之力，所以說他謀反誰信呢？馬皇后因為這件事絕食跟朱元璋抗議，但朱元璋還是不管不顧將李善長殺害。而所謂的丹書鐵券就是個笑話，根本免不了死。
無論是李善長還是楊憲、汪廣洋、胡惟庸都對權利有所眷戀，他們沒能跟劉伯溫一樣觀察到朱元璋的心思，他們不知道朱元璋為人刻薄寡恩，心胸狹隘到何種程度。他不會留著開國功臣們給子孫後代添麻煩。關鍵時刻沒有急流勇退，結果就是下場悽慘。