东路军锁定了下一个目标：上海。

蒋介石决心进军上海，令鲍罗廷十分震惊。这意味着蒋介石根本不往他设好的陷阱里跳。他以“河南才是北方战局成败关键”为理由，强烈反对蒋介石进军江浙。“蒋介石会利用国民政府和中央来向上海和南京进军。”鲍罗廷后来在老布尔什维克协会会员大会上做中国政治形势报告时，以“使我们感到惊恐”来形容他当时的心情，“我们的策略应该是绕过上海，我们应该把自己的所有注意力都放在北方和西方，不要重犯太平天国起义的错误，不要急于闯入上海。”

但他的“策略”，并不为人们所接受。共产党也急于在蒋介石之前夺取上海。3月，当革命军逼近上海时，共产党领导上海八十万工人举行大暴动，策应革命军。在此之前，上海已经组织过两次武装暴动。

第一次是1926年10月24日，中共上海区委决定和国民党中央驻沪特派员钮永建合作，组织联合暴动。虞洽卿也是积极的支持者。中共主张马上动手，纽永建不同意，他正游说当地北军归降，已略有眉目。10月24日凌晨，停靠在黄浦江上的军舰，突然打响几炮，这是暴动的信号。中共老党员郑超麟说：“海军开炮时，罗亦农（中共浙江区委书记）正在纽永建家里，纽永建听了炮声面色都变了，他知道是我们做的事情，怪我们预先不通知他。”

然而，许多准备暴动的工人，却没听到炮声。一位工人说：“约好以炮声为信号，一齐出动，可是左等右等听不到炮响，直到下半夜两点钟，有人等得不耐烦了，不管三七二十一冲了出去，结果吃了亏，到天亮就失败了。” 这种毫无章法的蛮干，不仅算不上“武装起义”，甚至连“军事行动”都算不上，只能称之为“骚动”。

暴动失败后，由上海工商学界发起了声势浩大的市民自治运动。11 月11、12 日，国民党上海市党部、上海总工会、各马路商界总联合会、各界妇女联合会等团体相继发表宣言，一致主张：划上海为特别市，实行上海市民自治；召集国民会议，解决国是，反对奉鲁军南下。14 日，国民党苏、浙、皖三省党部、上海特别市党部发表联合宣言，主张还政于民，由人民组织省民会议或市民会议管理一切。同日，苏、浙、皖三省联合会宣告成立。“落雨哉，打烊哉，小八拉子自治哉！”

中共一方面推动自治运动，一方面继续组织新的暴动。1927年2月22日，革命军占领杭州，前锋抵达嘉兴。2月23日，中共中央建立了由陈独秀为首的特别委员会，直接领导上海的工人武装起义。特委成员包括江浙区委、上海区委的罗亦农、赵世炎、汪寿华、尹宽，中央委员彭述之、中央军委委员周恩来、共青团中央书记萧子璋。此外还专门建立了特别军委（由周恩来等五人组成）和特别宣委（由尹宽等五人组成）。郑超麟说：“暴动的准备是‘军委’的工作。‘军委’是秘密的组织系统，不仅对党外的人守秘密，而且对党内的人守秘密。那时中国共产党有三种组织：青年团，党和军委，一重比一重更加严格、认真。”

上海总工会一声令下，三十六万上海工人举行了大罢工。“罢工从第一天起就具有总罢工的形式。第一天邮局、电车、公共汽车就停止工作，港口的所有轮船（中国的轮船和外国的轮船）都罢工了，港口的搬运工和工厂也罢工了”。