1926年，国共合作的局面开局良好：农民运动在毛泽东的主持下深入开展，下半年北伐战争也捷报频传。同时，对于国民党的老右派，也做了有力反击，如谴责孙文主义学会、禁止上海《革命导报》、处理中山陵闹事分子、处理五七纪念日捣乱分子等。
但在这一年，新右派势力，代表人物就是蒋介石开始崛起（7月份中国共产党在上海召开的中央执行委员会扩大会议明确把蒋介石划为新右派的代表）。
3月份，蒋介石利用中山舰事件，向共产党示威、试探。
中山舰事件始于3月18日，孙文主义学会成员欧阳格，以黄埔军校驻省办事处名义，奉蒋校长的命令，通知海军局代理局长李之龙速派有战斗力的两艘军舰到黄埔听候调遣。李之龙派中山舰到黄埔。
但是，蒋介石矢口否认有过调舰命令，认为李之龙擅自将军舰开进黄埔，“显系有阴谋暴动”。蒋介石又得到报告，说苏联顾问和共产党要劫持他去俄国。本性多疑的蒋介石借机向共产党和国民党左派发难，于20日凌晨下令全广州市戒严；派兵占领海军局及接管中山舰，并解除两处的武装；将海军局代局长李之龙逮捕；看管第二师（广州卫戍部队）各级党代表；包围搜查省港罢工委员会，收缴工人纠察队武器和弹药；包围监视苏俄顾问团和汪精卫的住所，收缴警卫枪支。史称“中山舰事件”(又称“三二〇事件”)。
到底是谁命令调动中山舰，蒋介石到底知不知道此事，至今仍是个历史之谜。可以肯定，事件的发生绝非“共产党的暴动阴谋”，也非蒋介石的所谓“误会”。即使不是蒋介石事先安排，他也充分利用了这一事件，对中国共产党、苏俄顾问、国民党左派的进行打击。
事件发生后，在广州的共产党人大都主张对蒋介石进行反击。毛泽东、周恩来曾在李富春住处商讨对策。他们认为，在广东的国民革命军六个军中，有五个军的军长同蒋介石存在矛盾，而在蒋介石直接指挥的第一军中政治骨干大部分是共产党员。基于这种形势，他们提出以叶挺独立团为主，联合国民党左派和一切能联合的力量给蒋介石以回击。但是，在中国访问的苏联共产党代表团团长布勃诺夫采取妥协态度。上海的中共中央得到三二〇事件消息后，三月二十九日也发出指令，主张向蒋介石退让。
我退敌进。蒋介石自然得寸进尺。5月15日—22日，毛泽东出席在广州举行的国民党第二届中央执行委员会第二次全体会议。会上，蒋介石向全会提出限制共产党、由新右派独揽国民党党权的《整理党务案》。主要内容是：加入国民党的共产党员名单全部交国民党中央保存；共产党员在国民党中央、省、特别市党部执行委员的人数，不得超过各该党部全体执行委员的三分之一；共产党员不得担任国民党中央的部长；中国共产党及共产国际发给国民党内的共产党员的一切训令应先交联席会议通过等。
这个限制共产党活动的提案，事先取得了苏联顾问鲍罗廷的同意。随后，担任国民党中央部长的共产党员全部被迫辞职。毛泽东辞去宣传部代理部长职务，国民党中央宣传委员会改组，毛泽东及其他共产党人被免去委员职务。
