国民党右派胡汉民等人于是向蒋中正靠拢，在南京建立了一个反共的政府，与武汉的左派政府对峙，称为「宁汉分裂」。这时中国有三个中央政府：获得国际承认的位于北京的军阀政府，国民党左派与共产党合作建立的武汉政府，以及国民党右派组成的南京政府。
共产党感到形势危殆，认为不能再完全仰赖国民党左派，开始积极在湖南湖北一带农村推动「土地改革」。然而唐生智的部属军官多为湖南地主，因此开始强烈反对共产党。汪兆铭迫于形势，在1927年7月15日宣布「分共」，要求加入国民党的共产党员退党，国共合作至此结束。
原本第三国际希望能藉由与国民党的合作来发展共产势力，因此对国民政府投入大量的经济与人力资源，现在不但黄埔军为反共的蒋介石所支配，也失去了与国民党左派的同盟关系。共产党于是决定开始建立起自己的武装势力，1927年8月1日，发起了「八一南昌起义」（国民党方面称为南昌暴动）。原本计划攻入广东，但是没有成功，于是进入江西的山区。毛泽东在湖南也发起了没有成功的长沙起义也叫秋收起义，往东与江西共军会合。共产党的武装势力于是长期在此地发展，称为「江西苏区」。
