不过,刘伯温虽才华盖世,胸有韬略,却不是政治家。如果他专注于学问,成就必定会不逊于任何一代宗师。但他是性情中人,决不会为逃避乱世纷争,躲起来一门心思做个人研究。而且他心地至诚,性格正直刚烈,嫉恶如仇,天下太平之后,也根本不适合混迹于官场,这一点他自己也明白。洪武三年,朱元璋欲任命他为丞相,刘伯温的回答是:“臣疾恶太甚,又不耐繁剧,为之且孤上恩。天下何患无才,惟明主悉心求之。”可惜,一入侯门深如海,已没有了退出的余地了。即帝位后的朱元璋,心态开始发生变化,“非我族类。其心必异”这是所有帝王的一贯思维,只不过在朱元璋那儿更变本加厉,更刻薄寡情。本来第一个要收拾的是独揽大权的丞相李善长,因为李嫉恨刘伯温,朱元璋就选择刘伯温充当杀手。“太祖以事责丞相李善长,基言:‘善长勋旧,能调和诸将。’太祖曰:‘是数欲害君,君乃为之地耶?吾行相君矣。’基顿首曰:‘是如易柱,须得大木。若束小木为之,且立覆。’”(《明史列传16》) 尽管刘伯温说得都是大道理,不过他心里应该明白,让他出来收拾李善长,既是利用,也是试探他的忠诚度。他一旦受命或可减轻朱元璋的猜疑,然而,唇亡则齿寒,此例一开,以后朱元璋对待开国功臣元老就会换另外一副面孔,此等不义之举,按刘伯温的个性是绝不可为的。正因为如此,第二年他就请退,告老还乡了。刘伯温虽归老于乡,但朱元璋疑忌之心很强,人不在身边反觉难以掌控,更欲除之而后快。刘伯温也知道朱元璋对他不会就此放心的,所以他的儿子留京为官,算是人质。而且朱元璋每年岁暮都将退休的刘基之子琏、宋濂之子允载、叶琛之子永道、胡深之子伯机等召去京师,接见于便殿,嘘寒问暖,“亲加训诲,燕语如家人。”故此,退隐后的刘伯温异常低调,“惟饮酒弈棋,口不言功”。《明史》记载有这样一件事,青田县令因久仰刘伯温大名,想瞻仰一下尊容,“邑令求见不得,微服为野人谒基。基方濯足,令从子引入茆舍,炊黍饭令。令告曰:“某青田知县也。”基惊起称民,谢去,终不复见。”即便如此,最终还是未逃脱朱元璋的算计。朝廷方面,李善长为朱元璋所忌,已经自动退休,胡惟庸与李善长同乡,因李的举荐而成为丞相。其实,早在洪武二年,朱元璋曾就李善长外另一丞相人选问题征询过刘伯温的意见,刘就不看好胡惟庸,评价是:“譬之驾,惧其偾辕也。”(《明史列传卷16》)。