1357年在胜利攻占徽州之后，朱元璋曾亲自来到了石门山拜访老儒朱升，讨教治国平天下之策。朱升送了他三句话：“高筑墙，广积粮，缓称王。”就是说，要高筑城墙，巩固后方；发展生产，储备粮食；不图虚名，暂不称王，以减少受攻击目标。朱元璋听后连连点头。把这“九个字”作为夺取天下的指导方针。
朱元璋按照朱升的策略，首先抓紧军队建设，注意军事训练，提高义军将士作战的本领。同时，在战事频繁的空隙中，抓紧粮食生产。在义军中第一次设置了营田司，任命康茂才为营田使，专门负责兴修水利和屯田等项农业生产的事宜。并且还抽出一些将士，利用战争的空闲时间开荒种田。几年的功夫不仅解决了军队战时粮食困难的问题，而且还有了大量的剩余，改变了历来打仗的军队靠吃军粮的习惯。这样就大大减轻了自己势力范围内农民的负担，军民皆大欢喜，起义军得到了百姓的欢迎。
为了避免树大招风，较早地暴露自己，以防止在力量脆弱时被吞并，朱元璋在形式上一直对小明王保持臣属关系，用宋政权的龙凤年号，打红巾军的红色战旗，就是斗争的口号也与宋政权一模一样。
朱元璋经过数年卧薪尝胆，集蓄力量，开拓疆土的斗争，巩固的根据地终于建立起来了，在不知不觉中崛起为一支足以与元末其他义军和元军匹敌的强大的义军队伍。
战争的形势瞬息万变。当朱元璋占据应天府周围地区的时候，雄踞东方的张士诚占据了以平江（今苏州）为中心的太湖流域和长江三角州的广大富庶地区。独霸西方的徐寿辉以武昌为中心，控制了湖广、江西的大片肥田沃土。朱元璋此时却处于两面夹击之中，局势相当严峻。同时，随着朱元璋军事势力的日益增强，他与各个义军割据政权的矛盾也日益尖锐起来。至此群雄逐鹿中原，问鼎天下的时候到了。
元至正二十年（1360）闰五月，徐寿辉的部军陈友谅以派人祝贺胜利的名义，在江州（今九江）杀死了徐寿辉，并宣布即了皇帝位，定国号为汉。陈友谅立国称帝后，马上就同张士诚合谋共同举兵，进攻应天，企图消灭朱元璋的队伍。
1363年4月，陈友谅乘朱元璋主力解救被围困在安丰（今安徽寿县）的小明王，后方空虚之际，亲率60万大军进攻洪都（今江西南昌）。守将朱文正率部顽强抵抗，朱元璋闻讯率20万大军营救，双方在鄱（po）阳湖上展开了一场恶战。
鄱阳湖之战是中国历史上以少胜多、以弱胜强的著名战例。当时陈友谅军号称60万，战舰几百艘。这些战舰每艘都有好几丈高，分为上下三层，各船之间都用铁链连接，远望就如同一座座巨大的城堡浮在水面上。同陈军巨大战船相比，朱元璋的船队要小得多，但朱元璋并没有害怕，他根据船大进退不便，船小灵活机动的特点。经过精心策划，决定用火攻破敌军。他把水军分成11队，每艘船上都配备了许多火炮、火铳。他还组织了一支敢死队，驾驶装满柴草火药的小船去撞击敌舰，与敌舰同归于尽。
战斗打响后，朱元璋派出敢死队，驾驶装满柴草火药的小船冲向敌阵，纵火焚船，霎时湖面火焰冲天。陈友谅的战舰由于连接在一起，行动不便，一船着火，数船都被引燃，陈军大乱，被烧死和跳水溺死的不计其数。朱元璋一看火攻奏效，立刻率领将士冲向敌船。战斗异常激烈，喊杀声震天，士兵们在船头蹦来跳去，落水的人呼号挣扎，火炮打在湖面上激起冲天水柱，整个鄱阳湖都沸腾起来了。
这场战役持续了36个日日夜夜，朱元璋昼夜和将士们战斗在一起。他白天用旗帜，夜晚用灯笼，沉着指挥，激励将士。有时他乘坐的指挥舰被击中，马上换只船继续指挥。不久，朱元璋终于取得了鄱阳湖决战的重大胜利。
鄱阳湖之役后，朱元璋的领土已扩大到长江中下游的广大地区。地广兵多，局面打开了。这样，朱元璋在部下的再三劝说下，于1364年正月，在应天自称吴王，设置百官，建中书省，以李善长为右丞相，徐达为左丞相。是年二月，朱元璋乘胜亲征武昌，陈理举国请降，汉政权灭亡，湖广遂划入朱元璋统治的版图。
朱元璋灭亡了汉政权后，又开始向新的目标挥师进军——消灭雄踞东方的张士诚。张士诚出身私盐贩子。其基干队伍也是一些盐贩子、盐丁、中小地主和部分贫苦农民。他们由于不堪忍受元朝统治者的压迫凌辱，奋起起义，作战十分勇敢。但其领导集团没有远大目标，腐败得很。朱元璋采取了先剪枝叶后除根本的策略，将张士诚外围城市据点泰州、徐州、淮安等淮水下游地区以及湖州（今浙江吴兴）、杭州等地先后攻取，最后包围了平江。
平江城十分坚固，一时难以攻克。朱元璋想起了几年前海宁人叶兑献的“销城法”，便命令士兵在平江城四周筑起长围，搭架三层木塔，登上塔顶，由此城里敌人的活动看得清清楚楚。他们又在塔顶架起弓弩火铳和铁炮，日夜轰击。经过10个月的激战，平江被攻破，张士诚被俘。随着朱元璋势力的不断扩大，深感龙凤政权已成为其统一全国的绊脚石。因而决定踢开龙凤政权自立，于是在进攻张士诚的同时，他阴谋杀害了小明王。从此朱元璋不再使用龙凤年号，将1367改为吴元年。
朱元璋攻占了张士诚盘踞的长江下游大片地区后，又制服了浙东的方国珍，平定了福建的陈友定，并乘胜南进，攻克广东、广西。在实现了陈四川、云南外的整个南部中国统一后，朱元璋不失时机地调集精锐部队实施北伐，同元朝封建政权展开最后的大决战。
这时的元朝政权在红巾军连续的沉重打击下，加之内部派系林立，矛盾重重，已是摇摇欲坠，日趋瓦解了。
至正二十七年（1367）十月，朱元璋派徐达、常遇春率师北伐。大军出发前朱元璋亲自制定了一整套周密的作战计划：先取山东，拆除大都的屏障；再挥师河南，剪除其羽翼；然后夺取潼关，占据门户。如此一来，天下形势全为其所掌握，最后进兵大都，元军孤立无援，可不战而克。
在北伐战争中，朱元璋提出了“驱逐胡虏，恢复中华，立纲陈纪，救济斯民”的口号对深受民族压迫的北方广大民众产生了很大号召力，广大民众纷纷响应，许多城池不战而降。
很快北伐军横扫中原，直逼大都，元军却在因皇位的争夺而忙于内战。待潼关失守，元顺帝才慌忙调集正内战不休的扩廓帖木儿（王保保）、李思齐的队伍，南下迎战。但腐败的元军哪里还有战斗力，逢战必溃。元顺帝眼见大势已去，深夜带着后妃太子狼狈逃往上都（今内蒙多伦）。第二年八月徐达统领大军攻进大都，正式宣告统治中国达99年的元朝政权的灭亡。
接着，徐达、常遇春乘胜挥兵四进，攻占了北方诸省。1371年朱元璋又遣水陆两军，平定了四川。1382年平定了云南。1387年元朝丞相纳哈出降辽东。至此，除漠北新疆外，统一全国的大业已基本实现。
元至正二十八年（1368）正月，正当北伐军胜利攻克山东的时候，40岁的朱元璋在文武百官的欢呼声中，于应天正式登上帝位，国号大明，建元洪武，以应天为南京。立马氏为皇后，长子朱标为皇太子。仍以李善长、徐达为左右丞相，就这样，一个穷和尚，经过艰苦奋斗，终于成为大明帝国的开国皇帝。
因为朱元璋出身农民，知道农民的辛苦，所以对百姓采取休养生息政策。洪武元年，他即位不久就召见各地来朝的府州县官说：“天下刚刚平定，百姓财力困乏，就如初飞的小鸟，不可以拔掉它的羽毛，刚栽上的树，不可以动摇它的根部，最重要的是休养生息。”
朱元璋吸取元朝的教训，开始制定法律，就是很有名的《大明律》。
朱元璋对自己制定的法律，满怀信心，带头实行，而且执法是相当严厉，这在中国古代封建皇帝中是少有的。他的女婿、驸马都尉欧阳伦，凭着自己是马皇后亲生女儿安庆公主的丈夫，不顾朝廷的禁令，向陕西贩运私茶。后来河桥巡检司的一位小吏向朱元璋告发了此事，朱元璋立即下令赐死欧阳伦。
朱元璋当皇帝的30年中，还公开镇压了几起大贪污案，其中最大的是郭桓案。郭桓案发时为户部侍郎。洪武十八年（1385），御史余敏等告发北京承宣布政使司、提刑按察使司的官吏李彧（yu）、赵全德等人，伙同郭桓等人贪污舞弊，吞盗官粮。朱元璋抓住线索，命令司法部门依法严加追查。这个案子后来又牵连到礼部尚书赵瑁（mao）、刑部尚书王惠迪、兵部侍郎王杰、工部侍郎麦志德等高级官员和许多布政使司的官员，贪污盗窃的钱折成粮食达2400多万石。案件查清后，朱元璋下令将赵瑁、王惠迪等人弃尸街头。郭桓等六部侍郎及各地方政使司以下的官员有上万人被处死。有牵连的官吏几万人被逮捕入狱，严加治罪。各地卷入这个案件的下级官吏、富豪，被抄家处死的不计其数。
为了加强对臣民的监视和控制，朱元璋专门设立了巡检司。当时，全国各府县的关津要冲之地，都由巡检司负责把关盘查，缉捕盗贼，盘诘奸伪。百姓如果要到百里之外去，事先必须办理路引，否则就通不过关卡。
洪武十五年（1382），朱元璋又正式把自己身边负责警卫事务的亲军都尉府（前身是拱卫司）改为锦衣卫。秘密侦察大小官吏的活动，随时向朱元璋报告社会上不公不法之事。同时，还授予锦衣卫以侦察、缉捕、审判、处罚罪犯的一切大权。在锦衣卫内设立了特殊的法庭和监狱，将锦衣卫变成正式的特务机构。
朱元璋在位的30多年间，特务多如牛毛，遍布街巷路途，严密监视着朝野内外、文武官员的活动，然后向朱元璋报告。
大学士宋濂一次在家设宴招待客人，第二天朱元璋问他，“昨天请客，喝酒了吗？做的什么菜？”宋濂如实做了回答。朱元璋笑道：“说得对，没骗我。”
国子监祭酒宁讷一天在家暗生闷气，偷偷监视他的特务竟把他这时的样子画了下来，上报皇上。朱元璋见了宋讷问道：“昨天你在家生什么闷气呀？”宋讷照实做了回答。他吃惊地问朱元璋如何知道此事？朱元璋将画像递给他，他展图一看，方才醒悟，慌忙磕头谢罪。还有一大臣一日无事，在家与妻妾玩麻将，无意中丢了一张二万，怎么找也找不着。第二天上朝，朱元璋问这个大臣昨天在家干什么，该大臣如实说是在家与妻妾玩牌，请皇帝恕罪。朱元璋听后说：“卿不欺我，朕不怪也。”说完从袖中摸出一张二万扔给了他。
这样一来，文武百官不管是在朝还是回家后，个个小心，人人自危，时刻处在紧张的气氛中。
