战后残余的淮军包括聂士成将军的武毅军，宋庆将军的毅军，加上董福祥将军实际上只是一群乌合之众的甘军，构成了帝国京城和华北的不足以胜任的防御力量。这些部队总计不超过七万人，虽有一定程度的嗜血之勇，却未经训练，纪律松散，装备有各种牌子和口径的毛瑟枪与来复枪。显然，中国迫切需要一支新军。1894年末，在战争的一个关键阶段，冯·汉纳根向军机处和总理衙门呈交了一份计划书，他在其中提议使用赫德爵士所控制的资金，训练一支十万人的现代军队。大学士翁同龢赞成这个想法，认为中国“舍此无以自立矣”。3英国公使欧格纳提出了同样的建议。此外，他认为赫德爵士是总揽全责的最合适人选。根据翁同龢的指令，在军机处尤其是荣禄的赞同下，胡燏棻制订了一份详细的方案，强调训练要在外国教官指导下进行，武器和组织机制要统一。他还提议，华北应该负责训练五千名士兵，华南负责训练三万名，湖北与湖南负责训练两万名，估计总开销为一千四百万两白银。

盛宣怀，李鸿章在商业和经济事务中的副手，也提交了一份训练新军的计划。他把新军所需的人数定为三十万人，但坚持裁撤八十万人的传统军队。根据他的计划，一名军人应该服役十四年，三年在常备军中，拿全饷；三年在后备军中；三年作为侍从兵；五年在团勇部队。在第一个三年之后，他有复员当平民的自由，只要参加每年的演习；在整个十四年当中，他可以免除其他形式的徭役。其他就此事上疏的大臣包括一些著名人物，如湖广总督张之洞，以及新任直隶总督王文韶。

军机处也有自己的方案，但野心没有那么大，而是将前四个月的人数指标定为仅四五千人，并选择小站为训练地点。此地位于北京与天津之间，正是李鸿章二十多年来将之用作淮军兵营的所在地。胡燏棻，而不是袁世凯，被任命为督练官，而冯·汉纳根担任总教习。胡燏棻是一名能干的开明官员，但他跟那位德国人相处不好，因为，如他所说，汉纳根贪婪而自负。不久之后，他放弃了对此军的管理，宁愿去修铁路，袁世凯被任命为他的继任者。

除了那些已经名誉扫地的淮军将领们以外，袁世凯在其同侪当中，是唯一一个具备这个任务所需经验与知识的人。此外，他的名声没有污点，且对这份工作表示了相当大的兴趣。在战争结束之前，他于1895年5月17日致函军机大臣李鸿藻，其中写道：

至此次军务，非患兵少，而患在不精；非患兵弱，而患在无术。其尤足患者，在于军制冗杂，事权纷歧，纪律废弛，无论如何激励，亦不能当人节制之师。……为今之计，宜力惩前非，汰冗兵，节靡费，退庸将，以肃整励。并延募西人，分配各营，按中西营制律令参配改革，著为成宪。必须使统将以下均习解器械之用法，战阵之指挥，敌人之伎俩，冀渐能自保。仍一面广设学堂，精选生徒，延西人著名习武备者为之师，严加督课，明定升阶。数年成业，即检派夙将中年力尚富者分带出洋，游历学习，归来份殿最予以兵柄，庶将弁得力，而军政可望起色。

这份信函带来的结果是，袁世凯于6月份被召至京城议事。他和胡燏棻，还有另外许多人，完全明白这项任务的意义，这个意义不仅是对整个国家而言，也是对被选来担负这份工作的个人而言。袁世凯与胡燏棻之间的竞争不可避免。胡燏棻写信给李鸿藻，称袁世凯“英气逼人”。5张佩纶，李鸿章的另一位地位很高的副手，在给同一位军机大臣 的私信中，写了下面这段文字批评袁世凯：

（我）与之深谈数次，大言不惭，全无实际；而究其所为，骄奢淫逸，阴贼险狠，无一不备。公以通家子弟畜之则可，以天下奇才目之则万万不可。所以不能已于言者，既已误合肥矣，更恐误国，更恐误公！