国民党本来是个组织松散的政治团体，孙中山一直想用暗杀、暴动等手段推翻清王朝。由于没有坚强的组织和自己的军队，清朝瓦解之后，军阀势力取而代之。没有军事实力的孙中山只好把大总统拱手让给袁世凯，民国又进入了军阀混战的时代。孙中山想依靠广东军阀战胜北洋军阀，结果又以失望和逃亡告终。这时，苏联向他伸出了援助之手，并指示中国共产党与其合作。孙中山制定了“联俄，联共，扶助农工”的三大政策，并在苏联帮助下，组建国民革命军。

在孙中山最危难的时候，蒋介石来到他的身边，成为他最信任的干部。1923年8月，在共产国际代表马林的安排下，孙中山派蒋介石和共产党员张太雷等4人赴苏联考察军事政治和党务。

蒋介石从苏联取经回国，创建了黄埔军校，在此基础上组建国民革命军，并仿照苏联红军的政治体系，建立了国民党党代表制度。国民党开始有了自己的武装，走上了发展壮大的道路。但是苏联之行，使蒋介石得到一个切身感受：“苏维埃政治制度乃是专制和恐怖的组织，与我们中国国民党的三民主义的政治制度，是根本不能相容的。关于此点，如我不亲自访俄，决不是在国内时想象所能及的。”这是他日后决意铲除共产党的思想基础。