北魏权臣尔朱荣的女儿过去是孝明帝的妃子，尔朱荣现在想让孝庄帝立她为皇后，孝庄帝犹豫不决。
黄门侍郎祖莹劝皇帝说：“从前晋文公在秦国避难的时候，弟媳怀赢侍候了他。有些事违背常道却合乎权宜，陛下合并犹豫呢！”于是孝庄帝采纳了祖莹的建议，立尔朱英娥为皇后，尔朱荣心中十分高兴。
尔朱荣喜欢骑马射箭，每次入朝参见皇帝，别的什么也不做，只是以骑马为乐。每次尔朱荣设宴比赛射箭时，总是要请皇后出来观看，并且将王公妃嫔、公主都召集到同一大厅。看到皇帝射中了，尔朱荣总是要起舞狂叫，文武百官跟着纷纷起舞，等到酒酣耳热之时，尔朱荣一定会高唱胡歌。
不久，尔朱荣回到晋阳，孝庄帝在邙阴设宴为他送行。尔朱荣命心腹元天穆到洛阳，加封他为侍中、录尚书事、京畿大都督兼领军将军，又任命朱瑞为黄门侍郎兼中书舍人。于是，朝廷的重要官职，都由尔朱荣的心腹之人担任。
北魏临淮王元彧听说国主孝庄帝的地位已经稳固，就以母亲年老为由请求回到北魏，言辞极为恳切。梁武帝很爱惜他的才能，但是不好违背他的请求，于是让元彧回到了北魏，被北魏朝廷任命为侍中、骠骑大将军，加封仪同三司。
南梁将军曹义宗围攻北魏的荆州，筑坝堵水，淹了荆州城，只差几板高没有淹没。当时北魏正值多难之秋，不能派兵救援。荆州城中的粮食吃光了，刺史王罴就跟将士们一起煮粥分食，就这样坚持了三年。朝廷终于派将军费穆负责南征的军事行动，率兵救援荆州。
北魏费穆率军很快来到荆州，曹义宗战败，被魏军俘虏，至此，荆州之围才被解除。
占据河北一带的葛荣军队由于缺乏粮食，便派遣他的仆射任褒领兵向南侵犯，到了沁水县，朝廷任命元天穆为大都督东北道诸军事，率领宗正珍孙等将领讨伐葛荣。
孝庄帝下诏声称：“朕要亲自统领六军，扫除平定燕、代地区的匪患。”并任命大将军尔朱荣率领左军，元天穆率领前军，杨椿为右军，穆绍为后军。葛荣得知朝廷大军前来，便率领军队退守相州城北。
葛荣率军包围了邺城，军队号称有百万之众。游击部队已经过了汲郡，所到之处大肆残杀掠夺，尔朱荣上表请求讨伐葛荣。
秋季，尔朱荣将侄子肆州刺史尔朱天光召来，命他留守晋阳，嘱咐他说：“我本人不能到的地方，只有你在，才能使我放心。”
随后，尔朱荣自己率领七千精锐骑兵，各备两匹战马，以侯景为前锋，从近路加倍行军，向东出了滏口，只扑河北。
葛荣叛乱为时已久，一直横行于黄河以北，尔朱荣的兵马很少，与敌人兵力相差悬殊。人们议论纷纷，认为尔朱荣断无取胜的道理。
葛荣听到后，喜形于色，命令他的队伍说：“尔朱荣很好对付，诸位每人都准备一根长绳，到时候只管捆绑敌人就是了。”
于是，葛荣从邺城往北，将军队排成数十里的长阵，队伍如同张开的簸箕一样向前推进。尔朱荣将队伍埋伏在山谷之中，作为奇兵，分派军官每三人为一组，每组有几百名骑兵，命令他们故意扬起尘土，擂起战鼓，大声喊叫，使敌人摸不清有多少人马。
尔朱荣又考虑到双方人马近战时，用刀不如用棒，便命令士兵们每人带一根短棒，放在马肚的一侧，为了防止交战时士兵下马斩首会影响骑兵追逐，便不允许斩首记功，只令用棒子打而已。
随后，尔朱荣身先士卒冲入敌阵，数千名骑兵精锐一起左右冲杀，各路战士冲杀之处，号令严明，里外夹击，大破贼兵，并在阵前抓住了葛荣，其余的部队全部投降了。
因投降贼军众多，考虑到如果马上将他们分开的话，恐怕会引起贼军的疑虑恐惧，说不定还会再次聚集起来。于是尔朱荣下令让他们各随其便，亲属相随，任意在哪儿定居均可。
这样一来，投降的士兵人人欢喜，很快便四处逃散，几十万大军一早晨便遣散光了。等这些士兵欢欢喜喜地走出百里之外，尔朱荣这才开始派人去分路押解他们，随他们之便加以安置，分别授予适当的官职，这些新归附的将领们心情都安定了下来，当时的人们都对尔朱荣处理事情如此迅速果断感到佩服。
高欢当年曾在葛荣手下待过，熟人不少，此时趁机招降了葛荣军中的七个王和一万多人的军队。
当初，宇文肱跟从鲜于修礼进攻定州，在唐河战死，他的儿子宇文泰也在鲜于修礼的军中。鲜于修礼死后，宇文泰又投奔了葛荣。葛荣兵败之后，尔朱荣爱惜宇文泰的才干，并且贺拔岳与其父宇文肱关系密切，因此，宇文泰被收编在贺拔岳的部下，做了统军。
尔朱荣又派人用囚车将葛荣送往洛阳，这样一来，冀、定、沧、瀛、殷五州就全部平定了。此时，元天穆驻军于朝歌城南，穆绍、杨椿还没来得及发兵，而葛荣的军队已经被尔朱荣消灭了，于是元天穆等人都停止了发兵。
孝庄帝任命尔朱荣为大丞相，他的儿子尔朱文殊、尔朱文畅也都晋升爵位为王，同时，又任命杨椿为太保，元徽为司徒。不久，孝庄帝又任命尔朱荣的嫡长子尔朱菩提为骠骑大将军、开府仪同三司，将长乐等七郡各万户，连同先前已有的十万户，都作为尔朱荣的采邑，并加封尔朱荣为太师，以嘉奖他平定葛荣的功劳。
冬季，葛荣被押至洛阳，孝庄帝亲临阊阖门，葛荣被押来见过孝庄帝后，在都市斩首。
前幽州主簿邢杲带领着河北的十几万户流民在青州北海郡起兵造反，自称汉王，朝廷任命李叔仁为车骑大将军，率军讨伐邢杲。双方交战多次，相持不下。
此时，因尔朱荣等人大军尚在河北，山东地区相对空虚，就在邢杲起兵的第二个月，泰山郡守羊侃亦起兵反魏。
羊侃的祖父羊规曾经做过宋高祖刘裕的祭酒从事，因身陷北方，因此留在北魏为官，心中常常有南归的想法。祖父去世后，父亲羊祉经常对儿子们说：“一个人怎能长久滞留在异国，你们以后一定要回归南朝！”
徐纥投奔羊侃后，便趁机劝羊侃起兵反叛北魏，羊侃听从了徐纥的建议，决定南归梁朝，以完成先人遗志。。
北魏兖州刺史羊敦，是羊侃的堂兄，他暗中知道了这件事，便凭据州城抗击羊侃。羊侃率三万精兵袭击羊敦，没能成功，便在兖州周围修筑了十几座城堡进行围困，并派遣使者向南梁投降。
梁武帝下诏，令广晋县侯羊鸦仁率部接应羊侃。北魏朝廷任命羊侃为骠骑大将军、泰山公、并许诺他永为兖州刺史，羊侃斩杀了北魏派来的使者，没有接受北魏的任命。
北魏任命行台尚书左仆射于晖等人率兵几十万，在瑕丘攻打羊侃，又命高欢、尔朱阳都增援。徐纥担心大事不好，劝说羊侃允许他去向梁朝请求救兵。羊侃相信了徐纥的话，于是徐纥便前来投奔了南梁。
于晖等将羊侃里外包围了十几层，营栅中的箭已经用完，南方的军队却迟迟不见前来救援。十一月初十，羊侃趁夜率军突围而出，边战边走，经过一天一夜才逃出北魏的国境，来到渣口这个地方。
这时，队伍还剩下一万多人，战马二千匹。准备渡江时，士兵们整夜放声悲歌，羊侃向将士们谢罪说：“你们大家都很怀恋故土，按人之常情，我不能强迫大家跟从于我，请大家或去或留，自己决定，我们就在这儿分手吧！”于是大家各自拜谢，告辞而去，北魏便又收复了泰山郡。
北魏派遣征虏将军韩子熙招降邢杲，邢杲先是诈降，随后又反叛了，李叔仁在淮水边上攻击邢杲，战事不利只得撤回了。于晖收复泰山郡后，朝廷诏令于晖回师讨伐邢杲。
正在此时，葛荣死后，他的余党韩楼占据了幽州再次反叛，北魏的北部地区再次受到叛军的威胁和蹂躏，尔朱荣任命贺拔胜为大都督，镇守中山。韩楼畏惧贺拔胜的威名，不敢向南进犯。
于晖的部下彭乐率二千骑兵反叛，投奔了韩楼，于晖只好回师。邢杲趁机西进，占领了济南。
孝庄帝诏令元天穆率大军讨伐邢杲，费穆为前锋大都督。
