洪武十三年(1380)三月十一日，燕王朱棣带领两护卫将士五千七百七十人，离开南京前往他的封地北平(今北京)。这年朱棣整整二十一岁。
这年正月，发生了一件举国震动的大事。左丞相胡惟庸被诛杀，罪名是“私构群小，夤缘为奸，或枉法以惠民，或挠政以诬贤”，如果像诏书中所说是中书省“任非其人”，那么再选择一个称职的人接替胡惟庸便可以了。结果并不如此，朱元璋就此废除了中书省，并将大都督府改为五军都督府。显然这是谋划已久的一次铲除权臣、集权于皇帝的措施。朱元璋所宣布的胡惟庸的罪名，不过是采取这一行动的借口。朱元璋铲除权臣和分封亲王都是为了同一个目的，即维持朱姓皇室的独尊地位。随着亲王的成长和逐渐就藩，朱元璋越来越觉得可以无所顾忌地对威胁皇帝的权臣采取措施。反过来，胡惟庸这样的治国能臣被诛杀后，朱棣和各位藩王身上的担子便更为沉重了。
朱棣背负着“慎固边防、羽翼皇室”的重任，来到北方重镇北平。这里曾经是大元帝国的首都，被称为大都。蒙古骑兵的铁蹄一度无敌于天下，所到之处莫不降服，成吉思汗、忽必烈和他的子孙们就从这里出发，统治着广袤的疆土。蒙古人、汉人、色目人汇集在这里，东方人、西方人汇集在这里，不同的肤色、不同的语言、不同的服装、不同的风俗，这里曾是一个真正的世界性的城市。如今那鲜衣怒马的蒙古人哪里去了？那黄发碧睛的色目人哪里去了？连勾栏瓦舍中的百戏杂剧也失去了原来的喧阗红火。只有那冷落的皇城宫殿依然显示出昂处挺身的雄姿，那太液池边的春柳依然娇媚地拂抚着水面。十三年过去了，这蜿蜒的红墙里终于迎来了它新的主人。
这里虽然已不是全国统治中心了，但军事、政治上仍然占有重要地位。蒙古人要东山再起，这里是首先要觊觎的目标。元朝近百年来的统治在这里还留有很深的影响，怀恋故国的势力盘根错节，表面上俯首屏息，而暗中仍心怀不满。不是洪武初年在西直门瓮城门洞的墙壁上还有人在表达他故国之思吗？朱元璋改“大都”为“北平”，就是要镇压这里的“王气”。
早在元顺帝放弃大都，北退塞外时，就派驻守在太原的扩廓帖木儿率军北上，经保安(今涿鹿)反攻大都，结果明大将军徐达乘虚攻克太原，又击破扩廓回援之军。洪武二年二月，元丞相也速率军攻通州，扎营白河，再窥大都，为明守军击溃。六月也速乘明师进攻陕西之际，再攻通州，被常遇春回师击败。明师乘机进攻开平，元顺帝再北走，明军大胜，生擒其亲王庆生、平章鼎住，得将士万人、车万辆、马三万匹、牛五万头，蓟北悉平。明军挺进西北，偏将军李文忠率军行抵太原，正值元将脱列伯、孔兴奉元顺帝之命进攻大同，情势甚急。李文忠引军北上救援大同，大败元军。脱列被俘，其众万余人投降，孔兴遁走陕西，被部将所杀。这是元朝妄图恢复的最早两次企图，虽然都被明军击败，但元军所拥有的实力并未被消灭。
明军于洪武二年八月攻克庆阳，十二月扩廓帖木儿乘徐达还师，自甘肃袭击兰州，明军苦战，虽免于陷落，但西北已呈危急之势。同时，北方边塞要地朔州(今河北蔚县)、武州(今宣化)、云州(今大同)地区、野狐岭(今万全北)、大兴(今栾平北)等仍为元军所盘踞。在这种形势下，朱元璋派明军进行了一次又一次的北征：
洪武三年，以徐达为征虏大将军，李文忠、冯胜、邓愈、汤和等为副将军分道北征。徐达败扩廓帖木儿，擒无郯王、济王及国公平章以下文武所属一千八百六十五人，将校士卒八万四十五百余人，获马一万五千二百八十余匹，扩廓携其妻子从者数个北遁奔和林，李文忠乘元顺帝之丧，攻克应昌，俘获元宗室嫡子买的里八腊及后妃、宫人、诸王、将相等数百人，元嗣君爱猷识理达腊率数十骑遁去。李文忠回师途中又俘获元国公汪文清等，降其兵民五万余人，这次北征使元朝近塞势力遭到沉重打击。
一年多以后，元朝势力在近塞再趋活跃。明军在平定四川之后，于洪武五年，派徐达、李文忠、冯胜率师十五万，分三路再次北伐。这次北征，明军受挫，出师不利。中路徐达军为元所败，死者数万人，东路军李文忠杀伤相当，不得已旋师，仅西路冯胜略获小胜。
此后七年中，朱元璋敛兵自守，不再轻易北征，而元朝势力却屡有南侵，元主爱猷识理达腊任国政以扩廓帖木儿，图谋恢复，数为边患。洪武六年寇武、朔州(今句注山北)及宁夏河州(今甘肃临夏)等地。七年寇白登(今大同东)、兰州；八年寇兰东；九年以后，连年骚扰陕北，又西连吐番为边地之患。十一年，爱猷识理达腊死，其子脱古斯帖木儿继位，为患仍然不已。面对这种局势，明朝加紧练兵，严守边关，并送还洪武六年在应昌被李文忠所俘获的爱猷识理达腊之子买的里八腊，始北元降人以官爵卫士赏赐，加以拢络。这时明与北元之间差不多是相持的态势，北元虽南下为患，但无法造成对明的重大威胁，明师虽偶有出击，但也难于给北元造成致命的打击。
这就是朱棣就国时的北方边境的形势。
大概是朱元璋认为朱棣不够成熟吧，并没有让他立刻参加直接的军事行动。就在他就藩的这一年和第二年，朱元璋又发动了两次北征。第一次洪武十三年二月，朱元璋得知北元国公脱火赤、枢密知院爱足率众万余屯兵和林，恐为边患，便派西平侯沐英前往征讨，沐英至灵州(今宁夏灵武)，侦知脱火赤等已进兵亦集乃，便率兵渡黄河，经贺兰山，穿过沙漠，西进亦集乃，明军兵分四路合围脱火赤营帐，尽俘其部曲以归。沐英又练兵西凉、进袭元柳城王，俘获柳城王及人口一千三百余，马匹三千余。十四年正月，元平章乃儿不花入寇永平(河北卢龙），朱元璋再命徐达及左右副将汤和、傅友德北征，同时命沐英出古北口以为应援。明军出塞，袭灰山，明军再北上，元军北遁，傅友德追击，俘获平章别里不花、太史文通等，沐英出古北口，略公主山长塞，尽获全宁四部而还。从这以后，明军每年春出冬归，对北元采取了以攻为守的策略。
其后，洪武二十年正月，朱元璋命宋国公冯胜为大将军，颍国公傅友德、永昌侯蓝玉为左右副将军率师二十万征北元纳哈出。纳哈出据有辽河流域，拥有部众十余万，是北元最后的重要军事力量之一。在明军的强大压力下，纳哈出被迫投降。北元失去了辽东，与朝鲜的联系也被割断，力量更加衰弱。洪武二十一年，朱元璋以永昌侯蓝玉为大将军，延平侯唐胜宗、武定侯郭英为左右副将军，率兵十五万“肃清沙漠”。明军至捕鱼儿海，袭元主脱古思帖木儿大营，杀其太尉蛮子，降其众，脱古斯帖木儿等仅以数十骑遁走。明军获其子地保奴等六十四人，故太子必里秃妃等五十九人，吴王朵儿只等两千九百九十四人。车士男女七万七千三十七口，得宝玺图书金印及驼马牛羊车辆无数。明军大胜而还。次年，脱古斯帖木儿被也速帖木儿所杀，坤帖木儿被立为元主，从此元室“部属奔散，元裔日微”，不能复振。
朱棣正式登上军事舞台一显身手，是在洪武二十三年。朱元璋为肃清沙漠，准备再次进行北征。为此他做了充分的准备。
洪武二十二年九月二十六，他命令河南都指挥使司和直隶各卫所加紧训练军士，以待征讨之令，并赏给每个军士钞三锭。十二月初十，又命令定远侯王弼往山西、雄武侯周武往河南、全宁侯孙恪往陕西，分别训练兵马，随时听征漠北；遣使命辽东都指挥使胡旻、朱胜训练精锐马步官军各一万人随时听候调遣。二十二日，他又派仪礼司丞古里哥、舍人火儿忽答孙等到塞外寻访他要打击的主要对象——故元丞相咬住、太尉乃儿不花等人的踪迹。为了保证远征有充足的马匹，在二十三年正月又下令制作一批文绮衣衾往漠北交换马匹。
在一切准备就绪后，朱元璋就下达了北征的命令。
这次北征的统帅是燕王朱棣和晋王朱㭎。他们分别统帅北平和山西的兵马。颍国公傅友德被任命为征虏前将军，南雄侯赵庸被任命为左副将军，怀远侯曹兴被任命为右副将军，定远侯王弼为左参将，全宁侯孙恪为右参将，诸将军除王弼已在山西，听晋王节制外，其余均处北平训练军马听燕王节制。接着朱元璋又命令长兴侯耿炳文往陕西训练军马，并派使敕令孙恪率耿炳文所操练的兵马随傅友德北征，又遣使命齐王朱榑率领山东都司兖州护卫及徐邳二卫精锐马步军士随征，也听燕王节制。在晋王麾下，又令河南都指挥使司、中都留守司选拔军士六千二百人，马四千四百七十匹从雄武侯周武北征，前往山西。
当时地处北方重镇的亲王惟秦、晋、燕三王年龄最长，从这北征的部署看，燕王无疑处于最重要的地位。不仅燕王所节制的兵马众多，而且从敌对双方的地理位置上看，燕王也是首当其冲的。晋王处于侧面，而年最长的秦王竟然无预其事。如果现在史籍所留给我们的这种记载不是经过史官有意删削的话，那么可以看出朱元璋对朱棣充分信任和倚重。
但是军队并没有马上出发，在大军出发前，朱元璋先派遣都御史铁古思帖木儿给征讨对象，故元丞相咬住、太尉乃儿不花、知院阿鲁帖木儿等送去一道敕书。书中写道：
前岁脱古思帖木儿北行，闻至岭北，祸生不测。和林以南，消息不知，以此尝遣使入沙漠寻访。近闻尔等所在，再造都御史铁古思帖木儿往谕汝等。元朝气运已终，汝等领散亡之众在草野无所归，度日甚艰，然不敢南来者，意必谓尝犯边境，故心中疑惑。且如纳喊(哈)出，在辽东前后杀掠守御官军二万余人，及后来降，封以侯爵，大小将校，悉加官赏。朕何尝以为仇也！但边境宁静，百姓安乐，即是好事。已令和尚国公、■(斡？)因帖木儿平章晓以朕意，想知之。汝等勿疑，领众而来，必择善地使汝安居，各遂生息，岂不美乎？若犹豫不决，坐事失机，大军一至，恐非汝之利也。丞相忽客赤，怯薛官人阿怜帖木儿、太尉朵劣不花、国公孛兰奚、司徒把秃，平章卜颜帖木儿、贵力赤，知院脱欢答里牙赤、八山葩剌八十、卜颜帖木儿、哈刺兀失贵、刀札刺儿台、捏兀台、■罗不不花等悉令知朕此意。
这就叫做先礼后兵吧。不过，这道敕谕是朱元璋对故元势力怀柔拢络措施的一部分。朱元璋在对故元势力的斗争中不纯用武力，总是恩威并济、文武兼施的。而且其怀柔政策，也颇有成效。在这准备北征的同时，就有故元平章把都帖木儿、知院笼秃儿灰、纳纳罕等遣部将哈散赤汝祝儿灰至西凉请求归降，朱元璋恐其道远，跋涉艰苦，赴京不便，就令其于水草便利之地居住。在明朝的军政队伍中有不少鞑官鞑军，除敕谕中所说的元将纳哈出被封为侯爵外，许许多多鞑官也都受到优待。比如也是在这同时，朱元璋赐给大宁卫指挥使沙不丁、天策卫指挥使迭里帖木儿世袭诰命，并赐给禄米、宅第，以使其在京居住。沙不丁是元枢院知院，迭里帖木儿是元大师哈喇章的侄子，他们都是在明朝的怀柔政策的感召下自泺(滦？)河归降的。
在出师以前，朱元璋还是放心不下，他派人给晋燕二王一道敕谕，向他们介绍讲述从降敌口中得到的情况。敕文中说：
询及来胡，言残胡甚少，骑者才五千人，共家属一万口，马称之，有急则七人皆一骑。趁水草长行，大军负载且重，追袭甚劳。今降将尝与彼共仕大官，已使在彼。而晃忽儿又能辞说，由是其众二心，欲南向者众，北向者少。且将粮饷运至上都，及口温，集于各程，然后再候人来，知其所在一举而中矣。”
朱元璋不仅从降人口中了解了敌人的情况，而且又将降人派回作为说客，以瓦解敌心。最后还为燕王作了先运送军粮，等得到情报后再行出师的部署，可谓慎之又慎了。
三月初二日，燕王朱棣率领大军从北平出发，征虏前将军颍国公傅友德、左副将军南雄侯赵庸、右副将军怀远侯曹兴各率自己的部属从征。大军迤逦向北进发，矛戈如林、旌旗蔽日，在干燥的黄土路上扬起滚滚尘埃。越往北地势越高，而且渐入丛山。大军经顺义、密云出古北口，直指塞外。古北口在北平正北偏东，是通往塞外的重要关口、历来的用兵之地。辽太祖夺取山南，先下古北口；金灭辽，夺取燕京，也在古北口发生激战。元泰定帝死后，大臣燕帖木儿拥主元文宗，撒敦与上都兵的争战同样都从古北口出入。它地处居庸关、山海关之间，与喜峰口并峙，俨然一雄关要隘。古北口在密云县境内，其城在山上，周四里三百一十步，三门，城北门外有北宋著名将领杨业祠。洪武十一年在这里设立了守御千户所，驻扎了军队。朱棣率大军穿行在古北口的万山丛中，朔风煦日，古道雄关，怎能不激起他的英雄情怀。多少忠臣烈士曾在这里抛洒热血，多少英雄骁将曾在这里抖擞雄姿。而今，这位年轻的亲王也从这条道路踏上了他威武雄壮的征程。
燕王从一开始便显示出他的军事才能。他分析了敌我双方的情况，决定先派兵侦察敌军动静，他对诸将说：“吾与诸将军受命提兵沙漠，扫清胡虏。今虏无城廓居止，其地空旷，千里行师必有耳目，不得其所，难以成功。”诸将自然赞同他的意见。明军派出的骑哨很快便弄清了敌情，他们报告说乃儿不花等正在迤都(后改禽胡山)安营扎寨。朱棣命大军向迤都进发。出塞之后，虽地势渐高但渐渐平旷，青天大漠，更显得苍凉悲壮。坝上的天气从来难测，行军中，突然彤云密布，转眼间漫天大雪纷纷扬扬地下了起来，正是胡天三日仍飞雪了。雪越下越大，将领们想要停止前进。燕王却认为大雪天正是进军的好机会。他说：“天大雪，虏不虞我至，宜乘雪速进。”用兵无常，唯出奇可以制胜。燕王的决定表明他是深谙此道的。果然，明军到达迤都，与敌营只有一碛之隔，敌人竟然未觉察明军已迫在身边。
燕王部下有位指挥名叫观童，是归降的敌人将领，与乃儿不花有旧交。燕王企图利用这一关系，便派观童前往敌营。乃儿不花一见是旧友观童，也没问他为什么会到这里来便相抱而哭，国亡主奔，流离沙漠，沧海桑田，风霜雨雪，说不尽的苦辣辛酸。仓猝之间明军已经包围了乃儿不花的营帐，慌忙之间，乃儿不花与众将打算上马出逃，观童温词劝阻，对他说，这次出征是燕王帅师，不必这样惊恐。乃儿不花也早就听说过燕王镇守北平，骁勇过人，而且喜欢延揽豪杰之士，又听老友观童相劝，想必不错。事已至此，无可奈何，只好跟随观童去见燕王。燕王见观童引来乃儿不花，自然十分高兴，不免演出了一幕“降阶相迎”、设宴款待的老戏。醉饱之后，乃儿不花的精神防线已尽行瓦解了。乃儿不花的部下听说主将受到燕王的优待，大喜过望，也都不再想走了。燕王又对乃儿不花慰谕了一番，便派人送他还营，还没走到营帐，又被燕王召回，再行劝慰，如此往返三次，不仅乃儿不花的敌意已经完全消失，甚至已经有些不耐烦了，迫不及待地要向燕王表示归降的诚心。于是乃儿不花的全部部将和马驼牛羊一律都归属了燕王。这一仗，燕王不费一兵一矢，而是以武力为后盾，以计谋取胜，这便是兵法上说的攻心为上吧？自燕王出师北平，至获乃儿不花全部以归，整整二十九天，这是一次很漂亮的军事行动。闰四月初一，燕王的捷报传到京师，朱元璋大喜，对群臣说：“肃清沙漠者，燕王也！朕无北顾之忧矣。”
其实，仔细阅读这段历史，不免发觉史臣的有意渲染，而有的细节却避而不谈。《国榷》的作者谈迁说：“史归功燕王，予意傅颖公等从征，此必诸将之力，或后人过饰也。”绝非臆测之言。你看，能征惯战久于沙场的征虏前将军傅友德等人在这次军事行动中竟是无所建白，几同于泥塑木偶，不是很奇怪吗？另外，明军每次出师报捷，斩杀擒获都有具体数字。而这次奏凯数字竟然失载，仅说“悉收其部落及马驼牛羊”，闪烁其辞，必有隐衷。要之，所获甚微，不足为人道也。
但是，自此以后，凡元军先后内附到北平的，皆听燕王调用，从此燕王势力日益强大。另外，这次与燕王同时出塞的晋王却没有见到敌人的踪影。尽管，对游牧不定的蒙古，这是常事，不能说晋王作战不力，但毕竟是无功而还，无形中衬托得燕王似乎是武功煊赫，智勇冠于诸王了。
明朝制度，军事行动完毕之后，军回卫所，将军上交所授佩印。朱元璋命令户部派人运钞一万锭，由燕王赏给有功将士，随后便下令晋王留山西、河南及晋府护卫兵马，驻于天成、白登等处操练，由晋王往来提调，定远侯王弼等一律遣还京师；命令燕王将征进骑兵留守上都或兴和、兴州一带，派都督、都指挥总率屯驻，由燕王时常往来阅视，其余公侯一律遣还京师；命令齐王带领护卫还其封国，山东所属卫所军马由都指挥蔺真带领，仍听燕王节制。这时，朱元璋对各统兵将领日益不信任了，不愿他们长期拥兵在外，一旦任务完成便召回京师置于自己的控制之下。
同时，朱元璋还对归降的蒙元将士做了一番处置，他命令傅友德将归降的乃儿不花部落全部迁徙入关，其将校则送往京师，并赐给战袄袭衣。
闰四月初七日，乃儿不花等故元降将及部属二百余人到达京师朝见朱元璋，他们献上元朝颁发的太尉等银印四颗、金牌三面、银牌八百、铁牌五面和元室给予的宣命二十八道。朱元璋命令乃儿不花为留守中卫指挥同知，阿鲁帖木儿为燕山中护卫指挥同知，咬住为副都御史，忽歌(又作客)赤为工部右侍郎，各赐以钞、帽、金带、钞锭，不久又将乃儿不花、阿鲁帖木儿升为指挥使。乙亥，赐给乃儿不花等七十一人以鞍马。丁亥又赐给乃儿不花等及其部属将校二百余人白金一万三千六百两，钞一万两千六百锭，文绣帛各一千零八十疋，罗衣五百五十袭。六月初十，北平都司送故元降将纽儿该速夹桑赤、阿鲁灰等乃儿不花部下将士及家属七百零七户赴京，诏给还乃儿不花家属，赐夏衣人一袭。朱元璋还命令工部郎中杨冀运送夏衣一万八千四百七十三领，到北平赐给乃儿不花的部下将校军士和家属四千七百八十六人。在这次征讨乃儿不花的作战中，百户晃儿忽做向导有功，因而被升为燕山中护卫世袭指挥佥事，按职领取俸禄但并不实际任职。但朱元璋对像乃儿不花这样的降将，并不是完全放心。他在二十六年三月乙卯让魏国公徐辉祖带给燕王的敕谕中说：“阿鲁帖木儿、乃儿不花俱存异志，虽抚之以诚，难保其往。人言‘夷狄畏威不怀德’，果然。可遣人防送至京。胡人反侧背恩，不可无备，归降胡兵，非出征不可轻纵，恐盗马潜遁，阴泄事机，所系甚重，若欲用以御敌，常使参错为伍，庶几无虑。”
这次北征的大捷震动了全国上下，由于是藩王首次出征便大获全胜，更使人们刮目相看。闰四月辛巳，各王府及天下文武百司向皇帝进“贺平虏表”，以赞颂皇明的威德和武功。
燕王是这次军事行动的主角，自己面上十分光彩，北平都司及从征的燕府军队也得到了丰厚的赏赐。闰四月甲申，赏给北平都司及燕山诸护卫军士两万四千六百余人钞七十二万六百七十五锭。而燕王府的地位从此骤然上升，它的实力和燕王勇略也从此开始渐被人们接受。朱元璋对蒙元成功的文武两策略，使大批的官员将校接踵前来归附。为了应付这种局面，朱元璋在闰四月乙亥命令户部运白金十万两、文绮五千疋往北平；白金五万两、文绮二千疋往山西。分别由燕王府和晋王府收贮，以备赏赉。
自这次北征之后，燕王的地位发生了微妙的变化。
如前所述，原先，燕王不过是诸王中的普通一员。至少，其位在秦王、晋王之下。秦王所封之西安，晋王所封之太原，燕王所封之北平，在当时人看来，其重要性是依次而降的。朱元璋建国，行南北两京之制，以应天为南京，开封为北京，但一直想迁都西安。御史胡子祺曾上书说天下形胜，其可都者首推西安，理由是“据百二河山之胜，可以耸诸侯之望，举天下莫若关中”，其余有河东、有汴梁，有洛阳，而北平竟不与其列。后来朱元璋也说过“天下山川惟秦地号为险固”，在朱元璋和时人看来，北平不过是胡人乘运而兴之地。因此，秦晋燕三王中，朱元璋实以秦王为首，晋王封于太原，其地迫于西安，当次之，第三才是燕王。
但是朱元璋等人的这种见解，是一种陈旧的观念，抛开自然地理的形势不谈，他们未把宋辽金以来，特别是元朝建立后近百年以来全国政治地理形势发生的重大变化估计进去。这变化简言之就是政治中心向东北方转移。如将关内外东北西北连为一体来看，唯北平最为重要。这点我们在下文中还将会谈到。这种事实是不以朱元璋等人的观念为转移的，在明初二十余年明与北元的斗争中，北平的地位再次显露出来。这不仅因为前述政治中心的转移，而且还因为元势力退出塞外，先后以上都、应昌为中心，这些地方都迫近北平，而他们南下夺取的最终目标仍是他们昔日的统治中心北平，这些都使得北平处于首当其冲的地位。另外，大都——北平作为统治中心，元朝在这里留下的影响要甚于其他地方，因而加强对北平的统治又成为割断元朝遗民的故国之思，从而巩固明政权的有效手段。同时，牢固地控制北平这个前首都，也比控制其他地方对塞外的蒙元势力有更大的威慑力量，对于那些企图归降明朝的人也有更大的吸引力。如此种种，使得北平的地位，从而使以北平为封国的燕王的地位大大突出出来。而当历史和现实在发出呼唤的时候，燕王朱棣以他的智勇能不负众望地承担这一重任，则保证了他自身地位的稳步上升。我们所指的主要是实力地位，在名分上，他是无法超越秦晋二王的。秦王为什么没参加这次北征，是否因为他担任了宗人令而不能出征呢？不得而知。
随着诸王的登上军事舞台并显示出实力，朱元璋感到皇室的地位更加巩固，加速了他削除权臣、集中皇权的步伐。就在晋王、燕王北征告捷的两个月之后，朱元璋就发动了一个大狱。朱元璋借口胡惟庸这一陈年旧案，将太师韩国公李善长置于死地。李善长是朱元璋的同乡(安徽定远人)，朱元璋起事不久便得到他的辅佐，预机画、主馈饷、定立制度，在文臣中功劳最大，因而被授予开国辅运推诚守正文臣、特进光禄大夫、左柱国、太师中书左丞相，封韩国公，岁禄四千石，子孙世袭，颁给铁券，免二死，子免一死。当时封公者还有徐达、常遇春子常茂、李文忠、冯胜、邓愈，共六人，而李善长居诸公之首，位崇秩尊，朱元璋将其比于汉之萧何，并将临安公主嫁给他的儿子。洪武十三年，胡惟庸因谋反罪被杀后，李善长的地位很久都没受到影响，然而到了洪武二十一年蓝玉北征至捕鱼儿海，据说是获得了胡惟庸谋反的证据：私通北元。至此，由于御史的劾奏，李善长竟被打入胡党，罪名是“知逆谋不发举、狐疑观望怀两端，大逆不道”，正好这时又有人说星象异常，“其占当移大臣”。于是便将李善长及其妻女弟侄家口七十余人一并处死。同时以胡党被处死的还有吉安侯陆仲宁、延安侯唐胜宗、平凉侯费聚、南雄侯赵庸、荥阳侯郑遇春、宜春侯黄彬、河南侯陆聚等，已故的营阳侯杨璟、济宁侯顾时等也受到追论。李善长死的第二年，虞部郎中王国用上疏对李善长之狱提出怀疑，他说：
善长与陛下同心，出万死以取天下，勋臣第一，生封公，死封王，男尚公主，亲戚拜官，人臣之分极矣。籍令欲自图不轨，尚未可知，而自谓其欲佐胡惟庸者，则大谬不然。……使善长佐惟庸成，不边勋臣第一而已矣，大师国公封王而已矣，尚主纳妃而己矣，宁复有加于今日？……若谓天象告变，大臣当灾，杀之以应天象，则尤不可。臣恐天下闻之，谓功如善长且如此，四方因之解体也。今善长已死，言之无益，所愿陛下所戒将来耳。
朱元璋见到奏疏，竟然不加之罪，其实他心里很清楚这是一个冤案。
亲王的成长促成朱元璋铲除权臣，权臣的铲除又促使亲王进一步掌握权力。
洪武二十六年二月，凉国公蓝玉被指为谋反，族诛，列侯以下坐党夷灭者不可胜数。吏部尚书詹微、户部侍郎傅友文、开国公常升、景川侯曹震、鹤庆侯张翼、舳舻侯朱寿、东莞伯何荣、普定侯陈桓、宜宁侯曹泰、会宁侯张温、怀远侯曹兴、西凉侯濮玛、支平侯韩勋、全宁侯孙恪、沈阳侯察罕、徽先伯桑敬等等均以蓝党坐死。洪武二十七年十一月，颖国公傅友德赐死，竟无罪名。
与此同步：
洪武二十四年二月，齐王率护卫骑兵在开平近地围猎，遇有战斗则自为队参战。五月，汉、卫、谷、庆、宁、岷诸王练兵临清。分别设置护卫军：汉王甘州中护卫、卫王广宁中护卫、谷王兴州中护卫、庆王宁夏中护卫、宁王营州中护卫，岷王西河中护卫。二十五年正月，晋、燕、楚、湘诸王入朝，朱元璋命令他们“岁训将练兵，周视封疆，作军器必精良，以固边圉”。二十六年二月，命晋王总宋国公冯胜等所统河南、山西军士出塞，胜及颍国公傅友德、开国公常升、定选侯王弼、全宁侯孙恪等驰驿还京，其余将校悉听晋王节制。三月，代王率护卫兵出塞，受晋王节制。三月丙辰，令宋国公冯胜、颖国公傅友德住北平等处备边，其山西属卫将校悉听晋王节制。北平属卫将校悉听燕王节制。“凡军中应有机务，一奏朝廷，一启王知，永着为令。”庚申，复遣使谕晋王、燕王：“各统所辖都司军马，凡军中赏罚大者以闻，小者宜从处分。”辛酉、庚午、甲戌，并西安右卫于西安中护卫；改华山卫为西安左护卫；改秦州卫为西安右护卫。二十八年四月甲申，又诏置辽(卫)、宁、谷、庆、肃(汉)五王护卫指挥使司。二十八年，肃王(原封汉王)就藩甘州，理陕西行都司甘州五省军务。三十年令督军屯粮，遇征伐，以长兴侯耿炳文从。二十六年，辽王植就藩广宁，宁王权就藩大宁。洪武三十年，朱元璋要求他们“自东胜以西至宁夏、河西、察罕脑儿，东胜以东至大同、宣府开平，又东南至大宁，又东至辽东，抵鸭绿江，北至大漠，又自雁门关外，西抵黄河，渡河至察罕脑儿，又东至紫荆关，又东至居庸关及古北口，又东至山海卫，凡军民种地，毋纵畜牧。其荒旷地及山场，听诸王驸马牧马樵采，东西往来营驻。因以时练兵防寇。违者论之。史称宁王“带甲八万，举车六千，所属朵颜三卫骑皆骁勇善战，”“以善谋称”；庆王■就藩宁夏，诏理庆阳、宁夏、延安、绶德诸卫军务，朱元璋对诸王的行动随时给以指示。如二十六年三月乙卯派人对燕王说：“尔护卫士卒，每遇出猎必选数千骑被坚执锐以训练之，使之常习劳苦，则临阵不怯。”三月甲戌，他听说晋王督兵在下水筑城，便派人加以责备，批评他“无深谋远虑”，并要求他“自今军中调遣，必计出万全，毋徒劳军士”。
除练兵防边外，朱元璋给各都司卫所下达筑城、屯田及从征的任务，也通过所在诸藩王去执行。如二十八年正月辛亥朱元璋遣使命令周王■，发河南都指挥使司属卫马步官军三万四千人往塞北筑城、屯田；甲寅，遣人敕谕晋王㭎发山西都指挥使司属卫马步官军二万六千六百人往塞北筑城、屯田；甲子，命令燕王发北平二都指挥使司并辽东都指挥使司属卫精骑兵七千、步兵一万，命都指挥使周兴为总兵官，同右军都督佥事宋晟、刘真、往三万卫等处捕野人，其属卫指挥庄德、景保安、张玉、卢震等悉令从征。
洪武三十年正月乙丑，朱元璋命令肃王楧曰：“古者兵出于农，人无寒馁，有寇则操戈以战，无事则荷耒以耕。此良法也。今春气方和，宜及时督军屯种，遇有征伐，尔其率精兵与长兴侯耿炳文等进讨。”这时，在汉中府沔县发生了一场有千余人参加的造反，“陕蜀番民”也因而起事，朱元璋慌忙派长兴侯耿炳文、武定侯郭英，发陕西四川兵讨之。并对刚嗣秦王位不久的朱尚炳说：“尔宜练士卒，缮甲兵，时巡逻以备无虞，况尔年幼，当夙夜警惕无急。”
这样，不仅诸王的势力不断加强，而且军事经验也在不断增长，同时，无形中形成这样一种格局，即皇帝——诸王——都司卫所的格局。诸王成为代替皇帝直接控制地方军事力量的一个重要层次。这种格局是朱元璋削除权臣、加强皇室地位这一指导思想的必然结果。
洪武二十八年三月二十日，秦王朱■死，这时他年已四十。他是曾被朱元璋寄重的一位亲王，在辈分上仅次于太子朱标，因而朱元璋给其的谥文中说：“尔以年长者，首封于秦。”期于永保禄位，藩屏帝室。看来他有负所托。如前所说，在备御北边时，秦王并无突出表现，而且还屡有过失，因此一度被召还京师。所以谥文中又说：“夫何不良于德，竟殒厥身。”他的谥号竟是一个多有贬意的“愍”字。对他的死，朱元璋是很悲痛的，老年丧子，人同此心。但他的死却使朱棣的地位无形中又上升了，至少，朱棣又失掉一位竞争的对手。
洪武二十九年，二月二十三日，在边境上巡逻的骑兵发现在道路上有脱落遗失的车轮，宁王朱权马上将这一情况报告给了朱元璋，朱元璋认为这是蒙古骑兵仍在边境活动的证明，蒙古兵很有可能再次入寇边境。朱元璋说：“胡人多奸，示弱于人，此必设伏以诱我军，若出军追逐，恐堕其计。”于是命令燕王朱棣选精卒壮马奔赴大宁、全宁，沿河南北觇视胡兵，针对敌情，随时随地给予打击。同时，他要求周王朱■命其世子朱有燉，率领河南都司精锐，赴北平塞口巡逻。三月，燕王朱棣再次率师出塞北征。军行至彻彻儿山与蒙古军队发生战斗。蒙军首领孛林帖木儿等数十人被俘。明军乘胜追至兀良哈秃城，又与蒙军哈刺兀等发生战斗，明军再次取胜。这次北征历时很短，而且史籍记载十分简略，大概是战绩无足称道吧？
不管怎么说，这次北征，再次给朱棣提供了展示其才能的机会。
洪武三十年。四月初三，朱元璋给晋王、燕王下了一道敕书，谕以“备边十事”：
其一曰，向者发往开平防边擒胡大小将校，宜遣人阅实明白，具籍以闻。是时塞草方青，胡人必顺水草而南，宜谨斥堠，广布置，务殚智虑，设法提防。每一堠用马二匹，而以三十堠为一路，计用六十匹。其相去或二十里，或三十里，则设一路，总十路则用马六百匹。其布置之法，则由内而外，其近里则二十里为一堠，计十堠。外则十五里为一堠，又计十堠。又外则十里为一堠，又计十堠。以此撙节一路，可望五百里，少有烽警，则无不先知矣。
其二曰，须选人领精骑或五六千或七八千，在百五十里至百里外一路潜伏，以侦望之，则可知彼虚实矣。
三曰，所设十路斥堠，每处为三十层，每层马二匹，东西相去二百里，广受所发防边将校。东五层内，西五层内，皆须在十层两向以候远望消息。仍令每堠垒炮积薪，务严备豫，昼则望烟，夜则望火，至加防慎，则彼之多寡亦可知矣。
四曰，王所统大军，除发去都督等员率领提备，其余护卫或一万，或二万，亲王率于附近屯所往来牧放，仍须被坚执锐，夙夜加谨。望远者，去王约三十里，不许顷刻有怠。王之队伍，常在斥堠以里，不宜久驻一处。东西南北往来莫测，又须趁逐水草，随营牧放以就孳焉。
其五曰，今年八月二十日晋王、燕王起程，九月一日，辽、宁、谷、代起程，务在约量程途，同至京师，朕别有议非面谕不可也。
其六曰，今年屯种自东胜至开平，开平至大宁、广宁，须五月，报禾苗长养何如，七月再报结实何如，十月又报所收子粒若于。一岁三报，不惟使朕知边储虚实，而屯军亦不至懈力矣。
其七曰，晋王、燕王宜督诸王并都司、行都司报知孳畜预战马数，必从行太仆亲点视稽验。自洪武二十三年至于今，通计所产驹若干，悉数以闻。
其八曰，京师发去江淮太仆寺孳生马及战马，八年之间数该七万。王督诸王及都司，行都司，以逐年领马之数，稽其原领月日，暨受马月日，条列具陈，仍令太仆寺督并，更加号令催督都司，行都司，毋容少怠。
其九曰，向者所发有罪大小将校，须悉心点视，立成队伍，其中有名到而人不至，及有病亡者，皆须明白具数以闻。
其十曰，不分大小官员并军校等，凡领骒马，验其关领月日，每年纳驹一匹。仍须审其孳产有无，不可一概征索。
特谕尔知，如敕奉行。
初九，朱元璋在给朱棣的信中说：
玉林、天城皆西北要地，非坚城池不可以守。今山西军已筑玉林城，其天城城宜令北平军士筑之。期今岁完。否则来年完之。毋促役以困其力也。
这时朱元璋仍念念不忘对蒙古的防御。不断地向诸王授以御敌方略。就在同一天，朱元璋又下令给晋王燕王说：
近钦天监奏，占天象当有胡兵入寇，朕以为不特天象可以征，以人事度之，胡人近有是谋。何也？前岁秋，山西塞外降胡逃归岭北，此数人居山西八年，安得不以中国虚实为胡人谋乎？此胡人入寇之端也。自今其令都司、行都司简阅步卒、骑兵、或三万或二万，常兼数万步卒，而骑兵每五百以一将领之。五百分为五队，每队领以一战将，而五将咸听一将之令，往来折冲，以据贼阵。步兵亦如骑兵之法，选将领之。严饬队伍与骑兵并进而夹攻。我马虽少，步兵则多，胡马虽多，彼无步卒。苟有侵犯，可与战矣。其深体联意毋忽。
这月，朱元璋又命燕王筑大同城。五月十八，朱元璋再次以天象示变敕谕晋燕代辽宁谷六王说：
验之历代天象若此者，边戍不宁，往往必验。今天象于往者正同，不可不慎也。其应虽非今岁，然二三岁间灼有寇边者。宜令军马东西布列，各守其地。今尔等所守地方，不下六千里，急遽难为聚会，每处军马多者不过一二万，而胡人之马计有十万。其不出则已，设若南行，马势必盛。自非机智深密昼夜熟算，孰能制之？兵法云“致人不致于人”，“多算胜，少算不胜，况无算乎”。吾今老矣，精力衰微，机思谋虑艰于运筹，尔等受封朔土，藩屏朝廷，若不深思远虑，倘或失机误事，非惟贻忧朕躬，尔等安危亦系于是，可不慎哉！
吾今略与尔谋，或今岁或二三岁，大军未会，止是本护卫及都司行都司军马各守分地，多不过一二万，倘遇胡马十数万寇边，不宜与战，或收入壁垒，或据山谷险隘之处，夹以步兵，深伏以待之。彼见我不与之战，必四出钞掠，俟其骄怠分散，队伍不严，我以马步邀截要道，破之必矣。若一见胡马辄以三五千或一二万轻与之战，岂特不能胜之，必至失利。务在深藏设计，待彼肆意驰骋，则一鼓可擒其首将矣。
五月辛未，朱元璋再以天象受警告燕王、晋王及诸王：
今塞草丰茂，山后地高，夏无酷暑，宜用心为备。上天垂象，不可顷刻自安。尔其训练士马，控弦以备之，庶几无患。
这时，不仅驻于边境的所谓塞王发挥着越来越重要的作用，而且驻于内地的亲王也无不担当重任，如楚王朱桢湘王朱柏，都被命前往镇压西南古州地区少数民族的叛乱。晋王、燕王则不断率兵巡边。六月初十，朱元璋听说晋王、燕王又统军巡视边境，出开平数百里，便派人前往授以方略。他说：
近者人自塞上来，知尔兄弟统军深入。古人统兵，贵乎知己知彼。若能知彼又能知己，虽不能胜亦无凶危。不知己又不知彼，猝与敌遇，凶莫甚焉。且以知己言之。我朝自辽东至于甘肃，东西六千余里。可战之马仅得十万，京师、河南、山东三处马虽有之，若欲赴战，猝难收集。苟事势警急，北平外马悉数不过二万，若逢十万之骑，虽古名将亦难于野战。所以必欲知己，算我马数，如是纵有步军，但可夹马以助声势，若欲追北擒寇，则不能矣。
今尔等率数千马离开平三四百里，驻旷塞中，况无轻骑远侦，以知敌情。设使胡兵数万昼潜夜行，隐柳藏狄，猝然相遇，彼以数万，我以数千，何以当之若欲纵辔驰行，其将何以全军士哉？今吾马数少，止可去城三二十里，往来屯驻，远斥堠，谨烽燧，设信炮，猝有警急，一时可知。胡人上马，动计十万，兵势全备，若欲折冲鏖战，其孰可当？尔等不能深思熟虑，提兵远行，不与敌遇，则侥幸尔。设若遇之，岂不危哉！
方今马少，全仰步军，必常附城垒。倘有不测，则可固守保全，以待授至，此上策也。
噫，吾起寒微，因天下之乱，不得已入行伍中，不二年从者如云，犹且听命于雄者。又二年，帅将士东渡大江，秣马厉兵于建业，以观天下之变。其诸雄皆放肆无籍之徒。虽曰无籍而元示不能驭。乃命中山武宁王，开平忠武王总兵四征，与群雄并驱。又不数十年，群雄殄灭，偃兵息民，当并驱之。时张士诚称王于姑苏，陈友定扼险于八闽，方国珍擅命于甄越，杜遵道、刘太保僭乱于中原，徐贞一、陈友谅相继僭号称尊于江汉。兵无纪律，同类相夷。元义兵李察罕多起河洛，刘大保莫能与敌，梁地遂平。察罕之兵径入齐鲁灭乱，毛氏之类渠帅，虽能婴城固守，及与察罕拒战，所在败北。察罕兵骄气盈，心诈志狂，所以卒殒于敌手。未久，察罕之甥王保保帅兵，一切作为蹈舅之谋，不能服众，以致部下声言效忠朝廷，请命加侏王保保。自是元内外衅生。首将擅兵于外，大臣异权于内，朕观是机，发兵讨之。自洪武元年，兵渡江淮，长驱齐鲁，席卷河南，遂入潼关。复遣大将由邺下趋真定，移营通州，元君弃城北归，而函蓟之区悉定矣。西入晋冀，晋冀乃平，兵渡河西，关中亦定，不三年而天下一统。
噫，吾用兵一世，指挥诸将，未尝败北，致伤军士，正欲养锐以观胡变，夫何诸将日请深入沙漠，不免疲兵于和林，此盖轻信无谋，以致伤生数万。今尔等又入旷塞，提兵远行，设若遇敌岂免凶危？自古及今胡虏为中国患久矣。历代守边之要，未尝不以先谋为急，故朕于北鄙之虑，尤加慎密。尔能听朕之训，明于事势，机无少懈，虽不能胜，彼亦不能为我边患，是良策也。善胜敌者胜于无形，尔其慎哉！
三十一年三月十二，晋王朱㭎病逝。朱元璋这时已经七十一岁了，对晋王的死非常悲痛，这是继秦王的死后对他的又一个打击。朱元璋对晋王比对秦王更加钟爱，晋王的谥册是这样写的：
朕曰惟先王之典，生有名，殁有谥，所以彰其德表其行也。曩者封建诸子，王尔于晋，为曩国藩屏，于兹有年。尔者因疾永逝。特遵古典，赐谥曰恭。呜呼，谥法者古今之公议，不可废也。尔其有知，服斯宠命。
这与称秦王“不良于德”，谥为“愍”真不可同日而语了。
为了给晋王作陵园，晋世子朱济熺向朱元璋请求民地一千一百余亩。朱元璋命其以八百亩为限。这样犹恐妨民，又命令所占田地以附近官地给予偿还，并根据被占地的多少，分别赐给钞币。朱元璋为表示对晋王的哀掉，辍朝三日。这些都与对秦王的态度大不相同。不久朱元璋便命济熺嗣了晋王之位。
秦王死后，晋燕二王成为北方的强藩。现在晋王也死了。燕王不仅成为诸王中年最长者，而且在实力上，其他诸王也无法与他相颉颃。燕王朱棣的地位在稳步上升，这不仅有他个人的努力，而且上天也给了他机会。他是个幸运儿。
朱元璋的身心愈渐衰弱了，但边防的事仍让他心绪不宁。虽然长期以来，朱元璋并没有给骁勇的燕王以特殊的地位，但在秦、晋二王相继死去后，便不得不对燕王予以注目。四月初九，他再次颂敕书给燕王朱棣，他说：
迩闻近塞烽火数警，此胡虏之诈。彼欲我师出境，伏兵邀我也，不可堕其计中。烽起之处，人莫宜近，虽望远者，亦须去彼三二十里。今秋或有虏骑南行，不寇大宁，即袭开平。度其人马不下数万，岂可不为之虑？可西凉召都指挥庄德、张文杰、开平召刘真、宋晟二都督，辽东召武定侯郭英等会兵一处，辽王以都司及护卫马军悉数而出。北平、山西亦然。步军须十五万，布阵而待，令武定侯、刘都督宋都督翼于左，庄德、张文杰、都指挥陈用翼于右。尔与代、辽、宁、谷、五王居其中。彼此相护，首尾相救，使彼胡虏莫知端倪，则无不胜矣。兵法示饥而实饱，内精而外钝。尔其察之。
大约人到老年，滞于某事，朝思暮虑，不厌其烦，朱元璋也不能例外。五月初八，这个一向很少生病的老人病倒了。七十年的风雨坎坷、殚虑焦思，使得他太疲劳了，而这时仍然念念不忘北边的防御。他再次颁发敕文，要求边将辅助诸王加强边境的防守，他对左都督杨文说：
兵法有言，贰心不可以事上，疑志不可以应敌。为将者不可不知是也。朕子燕王在北平，北平中国之门户。今以尔为总兵，往北平参赞燕王，以北平都司，行都司并燕、谷、宁三府护卫，选练精锐马步军士随燕王往开平提备。一切号令，皆出自王，尔奉而行之。大小官军悉听节制。慎毋贰心而有疑者也。
在北方边防的实践中，他确认了北京为中国门户的地位，也确认了燕王在北方边防的主导地位。接着，他对武定侯郭英说：
朕有天下，胡虏远遁久矣。然萌蘖未殄，不可不防。今命尔为总兵，都督刘真、宋晟为之副，启辽王知之，以辽东都司并护卫各卫所步军除守城马军及原留一百存守斥堠，余皆选练精锐，统领随辽王至开平迤北，择险要屯驻提备。一切号令悉听燕王节制。
二十九，朱元璋再次敕令燕王提兵备边：
朕观成周之时，天下治矣。周公犹告成王曰“诘尔戎兵”，安不忘危之道也。今虽海内无事，然天象示戒，夷狄之患，岂可不防？朕之诸子，汝独才智，克堪其任。秦晋已薨，汝实为长，攘外安内，非汝而谁？已命杨文总北平都司、行都司马军，郭英总辽东都司并辽府护卫，悉听尔节制，尔其总率诸王，相机度势，周防边患，义安黎民，以答上天之心，以副吾付托之意。其敬慎之勿怠。
这是他发出的最后一道敕书了。闰五月乙酉，这位大明开国皇帝离开了人世。就在辞世这一天，他还像平常一样地处理政务。但他已感到病体不支，将不久于人世。于是他令内侍焚香祝天祷告上帝。他说：“寿年久近，国祚短长，子孙贤否，惟简在帝心，为生民福。”据说，在临终前他曾派人持符召燕王还京，但是燕王行至淮安，被当事者假借他的命令阻还。朱元璋在临终时还问左右，第四子来了没有。
南京城内外，漫天飘洒着细雨，正是禾苗盼望着的雨，它如同甘霖，降福给人间。朱元璋听到雨声，带着满意的笑容闭上了双眼。朱元璋生于艰危，起于闾里，不数年间便统有了全国，成为中国历史上一位杰出的皇帝。之所以能够如此，除社会给他提供了广阔的舞台外，全靠了他的超人的智慧和能力。真好像明人所称的“天纵神圣”。然而他虚心克己，不忘本分，直到死前不久，他还想到自己的父母和家乡。四月己丑，他祭享太庙完毕后，看见庙门外高大的桐梓树，对太常寺臣说：“往年来此，今不觉成林。”他又想起了祖宗家乡，说：“凤阳陵树当亦似此。”说着便落下泪来。不论在叱咤风云的战场，还是在金碧辉煌的宫殿，朱元璋的心始终没有忘掉养育他的家乡凤阳，没有忘记他所经历的坎坷与磨难，或许这也是他成功的一个原因吧。因为这种赤子之心诚无疑对他是一种约束，所以使他保持了较清醒的头脑，而不致于过度地放肆骄奢。在他统治的三十一年时间里，封建政治制度进一步完善了，中国封建社会进入了一个新的时期。然而他所开创的事业能否继续下去？怎样继续下去呢？让我们来揭开历史的这一页吧！