刘裕亲自率领水军从淮河、泗水进入清河，准备逆流而上，开进黄河，他派使者去向北魏借路，后秦国主姚泓也派了人出使北魏，请求救援。
北魏国主拓跋嗣召集文武百官共同商讨这件事，群臣们都说：“潼关乃是天险，刘裕用水军恐怕很难到达，但是，如果他从黄河北岸登陆向北方侵入，那就容易得多。刘裕声称讨伐秦国，他的真实目的难以猜测，而且秦国是与我们有婚姻关系的国家，不可以不出兵相助。我们应该派兵切断黄河上游，阻止晋军西上。”
博士崔浩却持不同意见，他说：“刘裕吞并秦国的野心由来已久，如今，姚兴去世，他的儿子姚泓愚蠢懦弱，国内灾难一再发生，刘裕乘他国内危机而兴兵讨伐，他的决心是一定要夺取。我们如果切断黄河上游，阻截晋军，刘裕一怒之下，必然登陆向我们进攻，这样一来，我们等于代替秦国挨打。如今柔然进攻我们的边境，百姓又缺少粮食，如果再与刘裕为敌，发兵南下进攻晋国，那么北边敌军柔然就会更加深入。那时，大军想要去救援北方，南方的州县又会告急，这不是个好计策。不如借给刘裕水道，听任刘裕西上，然后我们出兵驻防东部，阻塞他的退路。如果刘裕得胜告捷，一定会感激我们借路的恩德，如果失败，我们断了他的后路，也会有救援秦国的美名，这是比较合适的办法。况且，南方与北方风俗不同，即使朝廷放弃恒山以南的领土，刘裕也绝不会用来自吴、越的军队与我们争夺据守黄河以北的土地，怎么会成为我们的威胁呢？为国家制定方略的人，应该只为国家的利益考虑，怎么可以顾念一个嫁过来的女子呢！（拓跋嗣的昭哀皇后是后秦皇帝姚兴之女）”
大臣们又说：“刘裕如果向西进攻潼关，便会害怕我们切断他的退路，腹背同时受到攻击，而刘裕如果北上进攻我们，那么秦国一定不会从潼关出兵救援，所以看刘裕的样子虽然是声称向西，但实际上一定是北上。”
拓跋嗣听从了他们的建议，任命长孙嵩为督山东诸军事，又派娥清、阿薄干率领步骑十万人屯军在黄河北岸。
刘裕率领水军进入黄河，任命左将军向弥为北青州刺史，留下戍守黄河的重要渡口碻璈（que ao）。
当初大军出发之前，刘裕和王镇恶等人约定，如果攻克了洛阳，一定要等到主力大军到达后才能共同前进，不可擅自行动。
王镇恶满口答应，率领部队一鼓作气，很快就打下了洛阳。他将和刘裕的约定抛到了脑后，乘胜率部直扑潼关，却遭到了后秦军队的顽强抵抗，无法前进。时间一长，军中的粮饷接济不上，士兵们发生了恐慌。
有人建议放弃笨重的军用物资回去投奔大部队，沈林子手按佩剑怒斥道：“刘公的大志是统一天下，而今许昌、洛阳均已平定，关右也将要收复了，大事成功与否，就在前锋部队的行动，为什么要挫伤胜利后的士气，放弃就要得到的功业！况且现在主力大军距离我们很远，敌人的力量又很强盛，即使我们打算撤退，又怎么能够走脱。我接受了命令就不作回头的打算，今天的事，我自己率军完成任务，不知道你们这些君子，将来有什么面目去见刘公的旗鼓！”
王镇恶派人飞马报告刘裕，请求支援粮草和兵力。刘裕把王镇恶的使节叫到面前，打开战船的北窗，指着黄河岸边的北魏大军给他看，说：“我告诉过他不能单独前进，如今他却轻率地深入敌境，岸上的形势如此严峻，我怎么能派得出军队！”
王镇恶无奈，只好亲自回到弘农等地去筹集军粮。他的祖父王猛在前秦担任丞相多年，深得人心，当地百姓得知王镇恶就是王猛的孙子后，个个如同见到亲人般，争相运送粮草，军队的粮饷很快就得到了补充。
再说北魏的几千名骑兵，一直严加戒备地沿着黄河随着刘裕的大军向西行进。东晋士兵在黄河南岸，用长绳牵引战船，风大浪急，有的牵绳突然断了，战船漂流到北岸，船上的晋军全部遭到北魏军队的诛杀劫掠。
刘裕数次派军队还击北魏军队，东晋军一上岸，北魏军就逃走，等东晋军回到船上，北魏军又返回岸边。
为了击败魏军的骚扰，刘裕派丁旿统率武士七百人，战车一百辆，登上黄河北岸，在距离河岸一百步的地方，构筑新月形战阵，以河岸作为月弦，两端抱住河道，每个战车上布置七个武士。新月阵布置完毕后，在阵中竖起一个白色的羽旗。
北魏军队不知道这是什么意思，都不敢轻举妄动。刘裕派朱超石严加戒备，准备出战。等新月阵中的白旗一举起来，朱超石率领二千人飞奔而至，进入新月阵，携带大弩一百张，每个战车上增加到二十人，并在车辕上安置了防箭木板。
北魏军队看到战阵已经完成，这才如梦方醒，开始进攻包围。长孙嵩又率领三万骑兵作为后继援军，从四面八方向新月阵展开肉搏冲锋，即使是东晋军队的强弩也无法阻止敌人的进攻势头。
朱超石另外还携带了大铁锤和铁軿一千多支，这时，朱超石命人将铁軿折成三四尺长，用大铁锤打它，一锤下去，往往能够贯穿三四个人，北魏士兵招架不住，一时间全都四处溃散，争相逃亡，阵亡将士的尸体堆积成山。
东晋军队还在战阵中斩杀了北魏的冀州刺史阿薄干，北魏军队败逃回畔城，朱超石率领胡藩、刘荣祖乘胜追击，又一次大破北魏军，斩杀和俘虏敌人无数，北魏国主拓跋嗣听到前方的军情报告，这才后悔没有采用崔浩的建议。
后秦鲁公姚绍派姚洽等人率领二千人驻防在黄河北岸的九原，依据黄河的天险，打算切断檀道济军队的粮草供应。沈林子阻击后秦军队，大败敌人，斩杀了姚洽等将领，这支后秦部队被杀得几乎全军覆没。
随后，沈林子向刘裕报告说：“姚绍的威名遍扬关中，但如今在外，他的大军多次遭到失败，在内，他的国家又危机四伏，恐怕他命不久矣，已经等不到我们用利斧来杀他了。”
果然，姚绍听说姚洽等人战败身死的消息，又伤心又愤怒，吐血不止，把兵权交给了东平公姚赞后，不久便死去了。姚赞带兵偷袭沈林子，又一次被沈林子打败。
刘裕大军终于抵达洛阳，他巡视城墙，嘉奖了将士们的功劳，同时，为了防止魏军的袭击，在洛阳停留了整整两个月，以部署后方的防卫。
