就在元顥入主洛陽(yáng)六十五天之后，爾朱榮帶著從洛陽(yáng)逃走的孝莊帝，集結(jié)了三十萬(wàn)大軍，揮師洛陽(yáng)。
爾朱榮南下之后，并州、肆州又不安定了，于是他任命爾朱天光為并州、肆州等九州行臺(tái)，仍負(fù)責(zé)并州的事務(wù)。爾朱天光到晉陽(yáng)后，安排布置妥當(dāng)，所屬轄地都穩(wěn)定了。
費(fèi)穆投降陳慶之后被帶到洛陽(yáng)，元顥將他領(lǐng)入殿中，以他在河陰唆使?fàn)栔鞓s殺害文武百官之事斥責(zé)于他，并殺了他。
洛陽(yáng)城內(nèi)的元顥既然已經(jīng)奪取了政權(quán)，便秘密跟臨淮王元彧、安豐王元延明謀劃反叛梁朝。由于混亂的局面尚未平定，還需要借助陳慶之的兵力，所以表面上仍然很團(tuán)結(jié)，但實(shí)際上已經(jīng)同床異夢(mèng)，言語(yǔ)之間頗多猜忌。
陳慶之也暗中做了防備，他勸說(shuō)元顥：“現(xiàn)在我們遠(yuǎn)道而來(lái)，不服的人還很多，他們?nèi)绻懒宋覀兊奶搶?shí)，聯(lián)合兵力，四面包圍，我們將如何抵御呢？我們應(yīng)該上啟梁朝天子，請(qǐng)求再增派精兵，同時(shí)敕令各州，如果有梁朝人淪落在此地的務(wù)必都送過(guò)來(lái)。”
元顥原本本打算采納他的建議，元延明卻對(duì)元顥說(shuō)：“陳慶之的軍隊(duì)不過(guò)幾千人，您就已經(jīng)很難駕馭了，現(xiàn)在再增加他的兵力，他還怎么會(huì)肯聽您的命令呢！您的大權(quán)一旦失去，一舉一動(dòng)就都要由別人決定，這樣大魏的宗廟也從此要覆亡了?！?/p>
元顥便沒有采納陳慶之的意見，他又擔(dān)心陳慶之暗中向梁武帝上表匯報(bào)情況，便自己給梁武帝寫了一封表文，說(shuō)：“現(xiàn)在河北、河南全部平定了，只有爾朱榮還在頑抗，我與陳慶之便能擒獲他。目前各州郡剛剛歸附，正需要安撫，不宜再增加兵力，使百姓惶恐不安?！?/p>
梁武帝便詔令正在進(jìn)軍的各部隊(duì)都停在邊境上，不再前進(jìn)。
洛陽(yáng)城中的梁朝軍隊(duì)不滿一萬(wàn)，而羌族、胡族的軍隊(duì)十倍于梁軍，軍副馬佛念向陳慶之建議說(shuō)：“將軍您揚(yáng)威河、洛，聲震中原，功高勢(shì)強(qiáng)，卻被元顥所猜疑，一旦發(fā)生不測(cè)，能不擔(dān)心嗎？您不如趁元顥還沒有防備之際，殺掉元顥，占據(jù)洛陽(yáng)，這是千載難逢的好機(jī)會(huì)呀！”陳慶之沒有采納他的意見。
元顥先前任命陳慶之為徐州刺史，于是陳慶之堅(jiān)持要前往彭城上任，元顥心里很害怕，沒敢讓他去，對(duì)他說(shuō)：“圣上將洛陽(yáng)全部委托給您負(fù)責(zé)，如果忽然聽說(shuō)您要離開作為魏國(guó)寄托的洛陽(yáng)，而去徐州的話，便會(huì)認(rèn)為您這是急于求取功名富貴，而不為國(guó)家考慮的。這不僅有損于您的聲望，恐怕我也會(huì)受到圣上的責(zé)難?！币虼?，陳慶之便不敢再說(shuō)什么了。
元顥派遣都督宗正珍孫和元襲據(jù)守河內(nèi)，爾朱榮率軍攻打河內(nèi)，元天穆率兵于爾朱榮會(huì)合，他們攻取了河內(nèi)城，殺死了宗正珍孫和元襲。
爾朱榮與元顥相持于黃河邊上，陳慶之為了爭(zhēng)取戰(zhàn)略上的主動(dòng)，帶領(lǐng)自己的白袍軍渡過(guò)黃河，駐守中郎城，元顥親自拒守河橋南岸。陳慶之在中郎城下與魏軍展開大戰(zhàn)，三天十一戰(zhàn)，爾朱榮傷亡慘重，卻無(wú)法渡河。
有一位夏州義士為元顥鎮(zhèn)守河中的小州，他暗中與爾朱榮串通好，請(qǐng)求為爾朱榮破橋立功，由爾朱榮率兵到河橋去接應(yīng)。等到橋破之后，爾朱榮的部隊(duì)沒有接應(yīng)上，元顥將通敵的士兵全都?xì)⒘?，爾朱榮感到非常失望懊惱。
元顥又派元延明沿著黃河固守，北魏軍隊(duì)無(wú)船渡河，便開始商議回師北方，以后再想辦法攻打元顥。
楊侃對(duì)爾朱榮說(shuō)道：“大王您從并州發(fā)兵的時(shí)候，是已經(jīng)知道夏州義士會(huì)給您來(lái)做內(nèi)應(yīng)所以才來(lái)的呢，還是想真正施展您的雄才大略匡扶帝室才來(lái)的呢！用兵之事，誰(shuí)不是打散了再聚集起來(lái)，傷好了再繼續(xù)戰(zhàn)斗，何況現(xiàn)在我們并沒有受到什么損失，怎么能由于這一件事沒成功，便將所有的機(jī)會(huì)就都廢棄了呢！當(dāng)今天下百姓望眼欲穿，就看您這一次舉動(dòng)了。如果沒有取得什么收獲，您便很快就回師的話，那么會(huì)使百姓大失所望，各自考慮何去何從，誰(shuí)勝誰(shuí)負(fù)也就難以預(yù)料了。所以不如征調(diào)百姓的木材，多做一些木筏，沿著河岸排列，在數(shù)百里內(nèi)，都做出渡河的架勢(shì)。首尾既然相距很遠(yuǎn)，這就使得元顥不知該防守哪一處好，一旦我軍渡過(guò)黃河，一定立下大功?！?/p>
高道穆也對(duì)爾朱榮說(shuō)：“如今圣駕被迫外出，皇上憂慮，臣下應(yīng)當(dāng)感到羞辱。大王您擁有百萬(wàn)大軍，輔天子而令諸侯。如果分兵制造木筏，各個(gè)分散渡河的話，破元顥的軍隊(duì)易如反掌，為何卻舍此而北歸，使元顥又得以修整城池，整治兵器，在四方征集兵員呢？這真是養(yǎng)虺成蛇，后悔不及??！”
爾朱榮說(shuō)道：“楊侃已經(jīng)談了這一計(jì)策，我正要跟大家商議一下?！?/p>
劉靈助對(duì)爾朱榮說(shuō)：“不出十天，黃河以南一定會(huì)平定?！睜栔鞓s一向信任劉靈助，聽聞此話，堅(jiān)定了他渡河的決心。
伏波將軍楊檦跟他的族人住在馬渚，這時(shí)，他主動(dòng)向爾朱榮說(shuō)自己有幾艘小船，請(qǐng)求為大軍做向?qū)А?/p>
爾朱榮命令車騎大將軍爾朱兆和大都督賀拔勝率軍捆綁木材做木筏，繞過(guò)陳慶之的軍隊(duì)，從馬渚西邊的硤石這個(gè)地方悄悄地夜渡黃河，襲擊的元顥的兒子元冠受的部隊(duì)，并抓獲了元冠受。
安豐王元延明的士卒們知道了這一情況后，便紛紛潰散奔逃。元顥不知所措，率領(lǐng)麾下的幾百名騎兵向南逃走，陳慶之孤掌難鳴，便收攏剩余的步兵、騎兵共幾千人，結(jié)隊(duì)向東逃歸。元顥原先攻取的那些城池，全部又投降了北魏。
爾朱榮親自率軍追擊陳慶之，正碰上嵩高河水暴漲，陳慶之的部隊(duì)在追兵和大水的沖擊下死散殆盡。陳慶之只身一人剃光了頭發(fā)和胡須，打扮成一個(gè)和尚，從小路逃出汝陰，在豫州得到當(dāng)?shù)厝顺痰烙旱膸椭@才輾轉(zhuǎn)回到了建康。梁朝仍按功勞授予他右衛(wèi)將軍，封永興縣侯。
北魏中軍大都督楊津率軍進(jìn)入殿中，灑掃宮廷，封閉府庫(kù)，然后出來(lái)到北邙迎接孝莊帝，痛哭流涕地請(qǐng)罪，孝莊帝安慰并犒賞了他。
孝莊帝入居華林園后，大赦天下，任命爾朱兆為車騎大將軍、儀同三司，跟隨孝莊帝從北方來(lái)的將士以及跟隨他逃難的文武百官和那些未投降元顥的一律加官五級(jí)，河北向朝廷報(bào)告敵情的官員和河南堅(jiān)決未降元顥的官員加官二級(jí)，又加封大丞相爾朱榮為天柱大將軍，并增加封戶至二十萬(wàn)戶。
北魏孝莊帝在都亭設(shè)宴慰勞爾朱榮、元天穆以及從北方來(lái)洛陽(yáng)援救的將領(lǐng)們，按功勞大小分別給予不同的賞賜，凡是受過(guò)元顥的爵位、獎(jiǎng)賞官職和免除賦役的人，對(duì)其所得全部追了回來(lái)。
元顥從軒轅向南逃至臨潁，隨從的騎兵各自逃散，臨潁縣卒江豐殺了他，將元顥的首級(jí)送到了洛陽(yáng)。臨淮王元彧又歸附了孝莊帝，安豐王元延明帶著妻子兒女前來(lái)投奔了南梁。
陳慶之攻入洛陽(yáng)時(shí)，蕭贊向梁武帝上書，請(qǐng)求允許他回到梁朝。當(dāng)時(shí)吳淑媛還在，梁武帝讓吳淑媛將蕭贊幼時(shí)所穿的衣服給蕭贊送去，書信還未傳到，陳慶之便失敗了。
陳慶之從北方回來(lái)后，特別看重北方人，朱異覺得很奇怪，便問(wèn)陳慶之為什么這樣，陳慶之嘆道：“我當(dāng)初認(rèn)為長(zhǎng)江以北地區(qū)都是戎狄之鄉(xiāng)，等到了洛陽(yáng)之后，才知道衣冠人物都在中原地區(qū)，不是江東所能企及的，我們有什么理由輕視北方人呢！”
