朱元璋見疏大怒，認為這是離間他們一家骨肉，要親手射殺他。葉伯巨終於為此事死在獄中。不幸的是，葉伯巨所言果然成了事實。
洪武十三年（1380）春天，朱棣從鳳陽回到南京，受命就藩北平。這時的燕王已是21歲的英俊青年。他沒有留戀風光旖旎的南國春色、而毅然甘冒“雪花大如席”的北國風寒。他出發了，率領著數千護衛，浩浩蕩蕩地奔赴北平，滿懷著信心和對未來生活的憧憬。他知道，這是他一生道路上的一個新的起點。
他的府邸就是元朝的舊宮，其規製如同天子。按照規定，藩王的府邸“亞天子一等”，其他諸王都是如此。為了這件事，朱元璋還曾特地告諭諸王，要他們不要與燕王攀比，因燕王府邸是元朝舊宮，不需要新建，他們新建的府邸則都要按規定辦事。不難看出，朱元璋對燕王寄望殊深。
北平是元朝都城，位置險要，燕王的二哥和三哥分別就藩西安和太原，就藩時間還早於燕王兩年，都沒讓他們去北平，而是把北平留給了燕王，其中似乎有“深意存焉”。本來在朱元璋的眾多兒子中，隻有朱棣為人沉鷙老辣，很像朱元璋。他身材魁梧，天資聰穎，武藝高強，智勇有大略，能推誠任人，在鎮守邊關、打擊殘元勢力方麵立了大功。朱元璋將朱棣分封在北京，就是希望自己的兒子能代替功臣宿將掌握兵權，從而使明朝的政權更加穩固。
不過，朱棣也是朱元璋最擔心的人。據說，朱元璋曾和眾多王公大臣一起登上南京城外的紫金山俯瞰皇宮，在一片讚譽聲中，朱元璋龍顏大悅。這時年少的朱棣卻口無遮攔，一語道破天機：“紫金山上架個大炮，就能炮轟紫禁城！”朱元璋大驚，心裏頓時後悔不已，以至後來他又命令修建更為廣大的外城，把包括紫金山在內的一些重要地方圍起來以加強防禦。從這件事上，朱元璋看出朱棣將來很有可能是皇太子的最大威脅。
太子朱標從小就受到了良好的教育，為人好學勤政，寬厚仁慈，非常適合做個寬仁皇帝。可惜，洪武二十五年四月，朱標不幸英年早逝，年僅38歲。朱元璋傷心之餘，竟一時找不到合適的繼承人選。這時有人推薦朱元璋最倚重的朱棣作為皇儲。朱元璋同意了，但許多大臣表示反對，理由有二：一是如立朱棣為太子，對朱棣的兄弟則無法交待，一是不合正統習慣。朱元璋經過再三考慮，終於決定立朱標之子——皇孫朱允炆為繼承人，為此，朱棣一直耿耿於懷。
朱棣在就藩燕京以前，朱元璋還為他完了婚，妻子就是明王朝第一功臣中山王徐達的長女。朱元璋聽說她“貞靜，好讀書”，被人稱為“女諸生”，就把徐達找來說：“你我