建文帝见燕军再次出动，建文三年（1401年）十二月令驸马都尉梅殷（建文帝的姑父，顾命大臣）任总兵官，镇守淮安。建文四年（1402年）正月初一，建文帝将迁往蒙化的朱橚（废周王）召回南京。命魏国公徐辉祖率兵援山东。
建文四年（1402年）二月初一，南军将领何福、平安、陈晖进兵济宁，盛庸进兵淮上。朱棣派兵袭击南军饷道后，二月二十一日，燕军击败徐州的出战军队，徐州自此闭城死守。
灵壁之战
徐州坚守不出，朱棣遂不再理会，继续南下。三月初一，燕军进逼AH宿州。三月初九，抵达涡河（今AHBB市怀远县以北）。平安见到燕军一路南下，带兵来追；但三月十四日在淝河中了朱棣所设的伏兵，只得退回宿州。三月二十三日，朱棣遣将断徐州饷道，铁铉等率兵围攻，互有胜负。[141]四月十四日，燕军进达睢水之小河，搭浮桥。次日，平安、何福领军夺桥，双方隔河僵持。数日后，南军粮尽，朱棣决定偷袭。半夜，渡河绕至敌后；但徐辉祖援兵正好赶到，四月二十二日，双方战于齐眉山（灵壁县西南三十里），南军大胜，斩燕将李斌。
南军再次获得胜利，再加上暑热，燕军陷入窘境。四月二十三日，燕军众将要求北返，择地休整，朱棣不同意，说“欲渡河者左，不欲者右。”大部份人站于左侧，朱棣怒。朱能这时强力支持朱棣，表示“汉高祖十战九不胜，卒有天下”，坚定了燕军坚持的决心。这时，朝廷讹传燕军已兵败，京师不可无良将，遂召回徐辉祖。四月二十五日，考虑到在河边不易防守，何福移营，与平安在灵壁（一作灵璧）深沟高垒作长远之计。由于粮道被燕军阻碍，平安亲自率兵六万护卫粮草。四月二十七日，朱棣率精锐袭击平安，将其一分为二；何福全军出动救援，朱高煦也率伏兵出现，何福败走。
南军缺粮，何福与平安决定次日（二十九日）突围而出，在淮河取得给养，号令为三声炮响；次日，燕军攻打灵壁墙垒，进攻信号正巧也是三声炮响。于是南军以为是己方号炮，纷纷夺路而逃；燕军趁势进攻，南军全军覆没。灵壁之战就此意外结束。此战燕军生擒了陈晖、平安、马溥、徐真、孙成等三十七员敌将，四名内官（宦官），一百五十员朝廷大臣，获马二万余匹，降者不计其数。只有何福单骑逃走。灵壁之战彻底击溃了南军主力，此后燕军在长江以北再也没有遇到像样的抵抗。一千六百年前决定楚汉之争胜败的垓下之战就发生在灵壁附近，可谓历史的巧合。
按照齐、黄的策划，曾令辽东派兵南下欲与铁铉会师济南，但五月初一在直沽被燕军击溃。
渡江进京
灵璧之战后，燕军向东南方向直线前进。五月初七下泗州，朱棣谒祖陵。盛庸在淮河设下防线阻碍燕军渡河，朱棣在尝试取道淮安、凤阳受阻后，遣朱能、丘福率士兵数百人绕道上游乘渔船渡河，五月初九从后方突袭盛庸，盛庸败走。燕军遂克盱眙。[151]五月十一日，燕军向扬州方向前进，五月十七日，到达天长（扬州西北50公里）。守扬州的监察御史王彬本想抵抗，但属下反叛，趁其沐浴时绑缚之。五月十八日，扬州不战而降。随后高邮归降。
五月二十二日，朱允炆遣庆成郡主（朱元璋的侄女、朱棣的堂姐）与朱棣谈判，表示愿意割地。朱棣说“此奸臣欲姑缓我，以俟远方之兵耳。”郡主无言以对，遂返。六月初一日，燕军准备从浦子口渡江，但遇到了盛庸最后的抵抗。燕军战不利，朱棣打算议和北还。此时朱高煦引兵来援，朱棣非常高兴，说“努力罢！世子常常生病啊。”暗示朱高煦有机会取得储君宝座，于是朱高煦大受鼓舞，率众殊死战，击败盛庸。随后中央军的一支水军部队降燕，燕军遂于六月初三日自瓜洲渡江，并再次击败退守此地的盛庸。六月初六日，燕军至镇江，守将率城投降。