1926年1月国民党第二次全国代表大会前夕，鉴于广州和潮汕地区国民党右派活动猖獗，周恩来由汕头回到广州，同中共广东区委书记陈延年和鲍罗廷商量，拟等中共中央批准，即采取打击右派、孤立中派、扩大左派的政策，主动把共产党员完全从蒋介石的部下撤出，另与当时还是左派领袖的汪精卫组织国共合作的革命军队。但陈独秀右倾机会主义分子把持的党中央却不同意，迟迟不复电。从国民党二全大会开始，中共中央对蒋介石作了政治、军事、党务三方面的大让步，使蒋介石由左派代表一变而为右派的头目。3月20日事变前几天，周恩来被蒋介石电召到广州，已发现蒋介石与右派往来密切，神色不对，立即将此情况告诉兼苏联顾问翻译的广东区委宣传部长张太雷。但苏联当时的首席顾问季山嘉（鲍罗廷因回国述职请假）却视同儿戏，付之一笑。陈延年在事变发生前几天才回到广州。所以蒋介石发动事变时，共产党人完全处在没有戒备的状态。

被称为“三二○事件”的“中山舰事件”完全是蒋介石制造的。根本的原因是蒋介石要实行其公开反苏反共的独裁政策，而直接的原因是在国民党二全大会上，他以“不偏不倚”的表演，即使中共妥协，又得国民党左派赏识，中派拥护，右派理解，自恃手中的权势已足以清除中共在第一军和军校中的力量，顺便教训教训不满他专断的国民革命军中的几个军长、左派领袖汪精卫及苏联顾问们，为篡夺国民党的党、政、军大权扫除道路。于是，便制造了“中山舰事件”。

3月18日，黄埔军校驻省办事处派人致函海军代理局长、共产党员李之龙，谎称：“转奉校长令，着即通知海军局迅速派得力兵舰二艘，开赶黄埔，听候差遣。”李之龙接到命令后，用信笺纸写了两张命令，一张交给宝璧舰长，一张请代交中山舰长章臣桐，谓“着该舰长即将该舰开赴黄埔，听候蒋校长调遣”。当宝璧、中山两舰开抵黄埔时，蒋却不在军校。不久，李之龙获悉苏联考察团要参观中山舰，便打电话向蒋请示，可否调中山舰返省？“当承蒋介石允许，故电该舰返省，预备参观。”3月19日下午6时许，中山舰开抵广州。当时蒋介石因与汪精卫、季山嘉和共产党的矛盾日渐突出，心神不安，担心自己的地位不稳，疑心中山舰去黄埔又开回广州，是要劫持他去海参崴。而王柏龄等人又极力散布：“中山舰要炮轰黄埔军校，共产党要赶走蒋介石。”蒋介石事后还编造了这样一个离奇荒诞的天方夜谭欺人欺世，他说：“我知道共产党阴谋的爆发，就在于此。但我在当时，只知道他们是要叛变，要害我，……一直到这一叛乱平定之后，我才知道他们的计划，就是要在我从广州省城乘舰回黄埔军校途中，强迫我离粤，直驶海参崴，送往俄国，以消除他们假借国民革命来实行其‘无产阶级专政’的唯一障碍。”

1926年3月20日凌晨3时，蒋介石突然调动驻广州的第一军第二师刘峙所部及王柏龄的教导师等武装，借口李之龙不服调遣擅入黄埔，“阴谋暴动”，宣布戒严，断绝交通，搜查并占领中山舰，包围省港罢工委员会，收缴了工人纠察队的枪械；包围了苏联顾问办事处及住所；占领海军局，解除海军局的武装；监视全市共产党机关和著名共产党人的活动；连汪精卫的住宅也被蒋介石派兵包围，“保护”起来。王柏龄、陈肇英等逮捕了李之龙，并同时拘捕了在黄埔军校和第二师中的共产党员40多人。

当时，蒋介石感到公开背叛孙中山的三大政策，与中共决裂尚非其时，便宣称“中山舰事件”的“这种内容太离奇，太复杂了”，“有很多说不出的痛苦，还是不能任意说明”，并说：“这只有我个人知道。”其实，当时驻军汕头的何应钦也是知道“中山舰事件”真相的重要人物。