张作霖对阎锡山出兵诸路，企图一举消灭奉军的做法，恨之入骨。因此阎锡山一撤退，张氏立即调集号称３０万大军，以张学良、韩麟春等，沿京汉路南下，以石家庄为根据地，向娘子关南北地区进攻；以张作相、万福麟、汤玉麟等沿京绥路进攻大同，向雁门关附近地区进攻。奉军兵力雄厚，来势汹汹，阎锡山部在奉军的进攻下，伤亡惨重。但由于阎锡山的晋军凭险防守，工事坚固，加之傅作义坚守涿州，关键时刻给奉军以极大的牵制，因此阎军的防守不但始终未被击破，而且还得以转守为攻，打退了奉军的进攻。
阎锡山因归附蒋介石、悬挂青天白日旗而招引的这场战事，使自己损兵折将，但他没有后悔，相反对蒋更加拥护。因为跟蒋走，是他当时唯一的选择，否则他将受到南、北两面攻击，山西处于朝不保夕的危殆境地；而且依靠蒋介石，消灭奉、直势力，不但可永远消除威胁，还可使自己在北方的地位大大提高，从而使自己在南京政府中有举足轻重的作用。
蒋介石夺得国民党领导权后，在党和政府内排除异己，遭到各方压力，于１９２７年１０月宣告下野，东渡日本。于是阎锡山邀冯玉祥联名致电蒋介石，要求他回国主持“北伐”战事。阎还单独致电蒋介石：“公去国危，个人之去留事小，党国之存亡事大，愿用春秋责贤之义，再挽浪中已去之舟。”其实蒋介石宣告下野，是他的权宜之计，只是暂时摆脱一下矛盾的困境，并不是什么自责的表现。因此一个多月后，于１１月１０日从日本回到上海，不久回南京，以党内同志的要求为借口，再任国民革命军总司令。