刘伯温成为朱元璋的军师之时，朱元璋在军事政治上处于一个重要的发展阶段。刘伯温详细地分析形势之后，很快便提出了灭元兴邦、统一宇内的“时务十八策”，并一一列叙了各项谋略方策，这让朱元璋大喜过望，直恨相见太晚。自此之后，朱元璋更是以上宾之礼对待刘伯温，并将他安排在身边，谋议机密要事。刘伯温也因朱元璋对自己的礼遇而深为感动，并暗自庆幸自己遇到了明主，从此更是忠心耿耿地一心为他效力。

朱元璋要成就帝业，就必须除去对自己威胁最大的张士诚和陈友谅。而当时恰值陈友谅攻下了南京外围的重镇太平，在太平立国自称皇帝，气焰十分嚣张。陈友谅不仅杀了朱元璋的养子朱文逊及守将花云，还调集舟师从江州向东直指应天，声称此役有张士诚配合，攻陷应天，指日可待。正在朱元璋为此感到忧虑的时候，刘伯温为他献上一计。刘伯温给朱元璋分析说：“如今，陈友谅虽然将饶、九、荆、襄等将近半个天下的地盘占为己有，但是他曾杀害君主、胁迫部下的事实却无法被抹杀，所以大多数人对他都不服气。而且陈友谅为人有勇无谋，轻易就将百姓推上战场送死，只需几场战役，民力就会损耗殆尽。所以，攻下陈友谅的汉国并不是什么难事。而张士诚虽然仅有南不过会稽，北不过淮扬的浙西之地，但其为人却极其奸诈、狡猾，一直对元朝阳奉阴违，这种守财奴式的敌人虽也不足为虑，但俗话说：‘逮野兽要先逮凶猛的，擒拿盗贼先拿强壮的。’所以为今之计，当以先讨伐汉国的陈友谅。陈氏一灭，张氏必然自孤，那么存亡便由我了。平定陈、张之后，再北上中原，王业也就指日可待了！”

刘伯温的一番分析，令朱元璋心服口服。朱元璋不仅积极采纳刘伯温的计谋，而且对他的能力深信不疑。公元1361年，朱元璋亲率三军溯长江西讨伐陈友谅，然而一开始攻打安庆的时候并没有一举拿下。刘伯温猜想到陈友谅以重兵驻防安庆，那么其老巢江州此刻必定是空的，当即便建议朱元璋马上放弃攻打安庆而转攻江州。朱元璋依然深信不疑，最终果然一举攻破江州城，陈友谅为了保命只得弃城而逃。不久之后，陈友谅的部臣胡廷瑞以保留部队为条件前来向朱元璋议降，朱元璋再次听从刘伯温的意见，接受了胡廷瑞的条件。其他守将看到这种情况之后也纷纷前来投降，于是整个江西便很快成为了朱元璋的版图。

后来，朱元璋又按照刘伯温所出的计谋，将张士诚的势力全部消灭之后，才派部队北上攻下元朝首都北京。朱元璋终于在公元1368年在南京称帝，建立了大明王朝，改国号为“洪武”。而刘伯温在建立大明王朝的在重大战役中，或运筹帷幄，或亲临前线指挥战斗，堪称是功不可没的开国功臣。朱元璋大封功臣之时，刘伯温却拒绝了丞相的职位，但朱元璋最终还是授命他为开国翊运守正文臣、资善大夫、上护军，并封为诚意伯。其实并非刘伯温不想做“一人之下，万人之上”的宰相，因为这样更有利于他实现让百姓过上好日子的抱负。但他深知自己的正直，一旦站在政治舞台的高峰，日后必定会遭到其他为官者的排挤。