百姓得以休养。

义熙八年（412年）征讨刘毅时，刘裕以晋宗室司马休之接任荆州刺史。司马休之在当地很得民心，刘裕怀疑他有异心；在义熙十年（414年），司马休之的儿子司马文思又在建康召集人马，这让刘裕不满，司马文思后来因被揭发杀害官吏而被捕，刘裕处死他的手下和同伙而饶过了司马文思，还送他到司马休之那里，要司马休之亲自教诲他的儿子，实际上的意思就是要司马休之自己处死儿子。然而，司马休之并没有杀文思，而是上表废除了他的爵位，并向刘裕写道歉信。刘裕对此十分不满，立刻就命令江州刺史孟怀玉戒备。

义熙十一年（415年），刘裕杀害司马休之在建康的次子和侄子，随后进军讨伐司马休之，自加黄钺，领荆州刺史。司马休之则上表刘裕罪状，同时派兵抵抗；当时雍州刺史鲁宗之自己觉得刘裕容不下他，于是和司马休之联手。刘裕的前锋徐逵之首战输给了鲁轨，除蒯恩外的将领全都皆战死，刘裕大怒。然而当他到时，鲁轨及司马文思率军在悬岸峭壁上列阵，使得刘裕很难上岸，胡藩当时就冒险攀登，司马文思等抵挡不住，刘裕就乘对方撤退时登岸进攻，最终大败司马休之，得以攻占江陵，司马休之及鲁宗之往北投奔后秦。

自桓玄作乱以来，南方各大割据势力全部被消灭，南方得到统一，东晋境内都归于刘裕势力统治。次年（416年）正月刘裕获加领平北将军、兖州刺史、都督南秦州诸军事，一人都督二十二州，刘裕权倾朝野。

义熙十二年（416年）一月，后秦皇帝姚兴去世，新上位的姚泓没有治国的能力，加上身体虚弱常常生病，在他刚上位的初期，大将军尹元等人密谋造反，但很快暴露被处死。新投降的羌人也都纷纷逃回原籍准备复辟，后秦可谓内部叛乱多发，刘裕认为这是灭亡后秦的好机会。刘裕在北伐之前，在全国大赦释放了刑期在五年以下的人，并且提拔了任期届满的官员，听说琥珀可以疗伤，刘裕还把宁州刺史所赠琥珀玉枕捣成粉末分发于军中用以治疗外伤。同年八月，刘裕让刘穆之担任尚书左仆射，内管朝政，外供军粮，自己率大军分四路北伐。

同年八月，刘裕亲率大军分四路攻打后秦。他率领主力军由淮水、泗水，沿黄河往西进军，占领战略重镇洛阳。又命令一支军队从武关进攻，牵制后秦关中地区军队，然后率主力军攻打潼关，直取长安。龙镶将军王镇恶等人率领步军从寿阳（今安徽寿县）沿淮水淝水攻打许昌（今河南许昌东）会师洛阳。建武将军沈林子等人由彭城（今江苏徐州）从汴水出石门（今河南荥阳东北）进入黄河，占领洛阳以北，阻挡魏军南下袭击晋军侧面。冀州刺史王仲德率领水军由彭城从泗水，经巨野泽进入黄河。占据黄河东线，防止魏军渡过黄河往南攻击。

十月，东晋各路兵马向洛阳进军，洛阳的后秦守将姚洸的属下姚禹等人暗中勾结东晋将领檀道济，诱骗姚洸分兵防守各地，导致驻守洛阳的军队难以抵御晋军，当晋军逼近洛阳的时候，姚洸投降。

义熙十三年（417年）正月，刘裕亲率大军北上攻打骚扰晋军的北魏军队，派左将军向弥驻守于黄河重要渡口碻璈[áo]（今山东东阿西北），亲率主力进入黄河，魏军派数千骑兵沿黄河北岸跟在刘裕军队后面，防止晋军登上北岸发动袭击。四月，刘裕大军到达洛阳。刘裕占领洛阳后，在洛阳停留了两个月来防止魏军的袭击，在部署完后方的防卫后，进军到了陕城，并派部将沈田子攻打武关，进屯至青泥。

义熙十三年（417年）八月，刘裕率领大军在潼关城外与各路军会合，采纳王镇恶的建议，由王镇恶率领水军从黄河进入渭水直取长安。当王镇恶的军队沿黄河直取长安的时候，当时的后秦姚难正从香城（今陕西大荔东）往西撤退，姚泓也亲自率军从霸上到达石桥（长安城洛门东北）接应姚难，同时命令姚疆与姚难合兵共同迎击王镇恶的军队。王镇恶命令部下毛祖德率军击败后秦军队，后秦将领姚疆战死，姚难狼狈逃回长安。姚赞得知晋军逼近长安，于是率领军队由定城退守到郑城（今陕西华县）。姚泓为了缓解两面受敌的危机，决定先集中精力消灭沈田子的军队，然后再击破刘裕。于是命令几万步骑兵直趋青泥，沈田子只有几千兵马，本来就是疑惑后秦，当后秦主力被吸引过来后，王镇恶趁此机会突破潼关防线，率军一举攻陷长安，姚泓投降，后秦灭亡。

长安内乱

义熙十三年（417年）冬天，刘裕率晋军浩浩荡荡地抵达长安皇城，他想在此稍作休整，经略关中，不料传来刘穆之病死的消息。刘裕怕朝廷有变，留他十二岁的儿子刘义真率王