孙中山的逝世，使东征军内部发生了剧烈地变化。在陈炯明的诱惑、煽动下，杨希闵、刘震寰率部陆续返回广州，图谋发动武装叛乱，颠覆革命政府。杨、刘二人回到广州，又与北京段祺瑞派来的密使暗中勾结，决定于五月中旬发动军事政变；随即派兵控制了广州市区。广东革命政府被迫撤退到黄埔港办公。
5月9日，鉴于杨希闵、刘震寰的反革命阴谋已完全暴露，广东革命政府召开紧急会议，中共广东区委和廖仲恺等国民党左派坚决主张讨伐杨、刘。会议决定立即致电东征军右翼部队，火速回师广州，平息反革命叛乱。
右翼军总指挥许崇智接电后，立即召集蒋介石、周恩来、谭延闿、朱培德等人开会。决定由许崇智率领粤军八千人留守潮汕一带，以牵制陈炯明。由蒋介石任东路军总指挥，率领黄埔军、粤军一万五千人回师广州；由谭延闿任北路军总指挥，率领湘军一万人杀回广州；由朱培德任南路军总指挥，率领滇军八千人会攻广州。蒋介石又电令黄埔军校全体师生和虎门要塞炮兵部队，计五千余人，由吴铁城指挥封锁广州城南郊，保卫大本营。四路大军同时行动，广州城乡风起云涌。
当蒋介石率领主力部队飞兵急进，杀到广州城外时，杨希闵、刘震寰已经发动叛乱。叛军抢占了车站、电报局、省公署、财政厅等重要机关，封锁了各条交通要道。
紧急关头，在中共广东区委和各级工会的组织领导下，广州电厂工人和广九铁路、粤汉铁路工人举行大罢工，断绝了叛军的水、电和交通；海员工人在各河道及海口实施堵截，切断了叛军的退路。广州城内一片混乱，叛军官兵昼夜惶惶不安。
6月11日，蒋介石、谭延闿、朱培德、吴铁城率领的四路大军，从三面向广州城发起猛攻。数百门大炮同时开火，成串的炮弹飞进城中，叛军的阵地顿时成了一片火海。但见飞沙走石，烟熏火焚，死尸横陈，鬼哭狼嚎。炮火打击持续了一个多小时，叛军指挥部被炸塌，一师师长赵成梁当场毙命。城内，叛军四下乱窜，停止抵抗。城外，蒋介石一声令下，各路讨伐军发起猛冲，迅速突破叛军阵地，如龙卷风般攻入城中。各条街巷枪声激烈，喊杀连天，讨伐军如同风卷残云，攻势凌厉，从三面围歼。叛军丢弃阵地，全线溃散。杨希闵、刘震寰眼见大势已去，丢下残部，从西门窜出，落荒而逃。讨伐军重重围裹，敌二师师长陈天泰被活捉，残部近万人缴械投降。
大战进行了三个小时，城中叛军被全部肃清，革命政府又一次转危为安。蒋介石成为万众瞩目的东征英雄、平叛功臣。是日，广州革命政府为表彰蒋介石的赫赫战功，任命蒋介石兼广州卫戍司令。
1925年7月，在中国共产党的提议和推动下，国民党中央实施全面改组，把大元帅制改组为委员会制。新一届国民政府宣告成立，汪精卫、胡汉民、林森、许崇智、谭延闿为常务委员；汪精卫任国民政府主席，胡汉民任外交部长，廖仲恺任财政部长，许崇智任军事部长。国民政府发表宣言，表示要履行孙中山的遗嘱，废除一切不平等条约，召集国民会议，推翻军阀统治。
接着，国民政府设立军事委员会，将所辖各部军队统一改编为国民革命军。黄埔军校学生编为第一军，蒋介石任军长；湘军编为第二军，谭延闿任军长；滇军编为第三军，朱培德任军长；粤军编为第四、五军，李济深和李福林分别任军长。各军普遍仿效黄埔军校和第一军，设立党代表和政治部，共产党员周恩来、李富春、朱克靖、罗汉、林伯渠分别担任各军政治部主任。各军的师、团一级也有不少共产党员担任党代表。大批共产党员在各军中进行了卓有成效的政治工作，使军队面貌为之一新，开始形成有着明确政治目标和民主精神的军队。
与此同时，国民政府大力进行整顿。重新修订行政规划，积极整顿吏治，统一行政管理，铲除专横军人割据局面；统一财政收支，统一税收，严惩军阀官僚的贪赃枉法。经过整顿，广东全省的军政、财政、民政逐渐统一于国民政府的直接领导之下，经济状况大为好转，革命根据地得到了空前的巩固。这才是：全面改组气象新，大力整顿政局稳。要知后事如何，且听下回分解。