1924年，冯玉祥发动“首都革命”后，把他一手训练出来的西北军改名为国民军第一军，乘张垣发生兵变之机，任命他的心腹大将张之江为察哈尔都统；次年任命另一亲信李鸣钟为西北边防会办；不久，他又督理甘肃军务，率军入甘。段祺瑞让冯玉祥出任西北边防督办，把察、绥的不毛之地划归国民军。张作霖根本不把冯玉祥放在眼里，认为他不过是120万小洋买回来的雇工，没资格与他们论天下事。

1925年，奉军进兵京畿，逼冯玉祥让出北京。冯玉祥联合奉军内的少壮派首领郭松龄，密谋倒张作霖的戈。直隶督军李景林也加入了他们的反奉联盟。11月19日，冯玉祥在包头和郭松龄的代表签订密约，在说了一些“排除军阀专横，永远消灭战祸，实行民主政治”之类冠冕堂皇的门面话之后，对地盘和利益的分配，大致如下：大西北归冯玉祥，直隶、热河归李景林（换取他的中立），东三省归郭松龄（从此不再过问关内之事）。

“甲（冯玉祥）为贯彻和平主张，对热河决不攻取。保大京汉线，甲军得随意驻扎，但直省全部收入（保大在内）均归丙军，甲军决不侵夺……黄河以北各县，由丙军驻扎，收入亦归山东。天津海口，甲军自由出入。

“乙（郭松龄）为开发东三省，经营东北部内蒙古……

“乙诚意赞助甲开发西北，必要时亦以实力援助之。”

中央政府的组成，“以不妨碍开发西北及断送国家权利为限”。

11月25日，郭松龄在滦州誓师，宣言退回关外，“驱逐穷兵黩武的军阀，专心建设东北，永远不再参加内战”，金戈铁马，杀向关外，一路势如破竹。奉军招架不住，仓皇退往锦州。郭松龄将他的五个师扩编为五个军，声威大振。然而，当苏联顾问建议冯玉祥出兵援助郭松龄时，冯玉祥却不紧不慢地说：“奉军将被郭松龄打垮。现在还不到展开大战的时候，我们目前的任务是佯攻热河，掌握住北京，准备好援助郭松龄。”

他的“准备”一直停留在口头而已，不仅没有出兵助郭，反而命令国民二、三军向保定的盟友李景林进攻，以夺取直隶地盘，在天津为国民军打通出海口。李景林大吃一惊，急起抵抗。郭松龄在前方拼命，冯、李两军在后路鬼打鬼，双方激战三天三夜，胜负难分。

就在这72个小时内，张作霖调兵遣将，在日本关东军的臂助下，全力反击，在巨流河把郭松龄打败了，郭氏夫妇被奉军逮捕枪决。郭氏功败垂成，日本在关外的捣乱固然是一个原因，但冯玉祥的窝里反，亦有不可推卸的责任。他在自己的回忆录中，也不得不承认这是一场“反友为敌、以私废公，莫名其妙”的战争，“我与郭的约定不能实现，条约等于撕毁，结果懋臣（郭松龄字）败死。我何以对人？”但他却把责任完全推到李景林和国民军第二、三军身上。