他又引用同乡丁氏的话，把淮军收复的江苏城镇与左宗棠收复的浙江城镇作了一番比较。他说：“今春三月，在浙省绍兴，居民皆已复业，萧山诸境民船夜行，橹声相应也。杭省百废俱起，复城未两月，已议及海塘，各郡之漕皆减定，颂声大作。以此观之，左公吏治实胜李数十倍。”

在他的雷霆之怒面前，所有人都毕恭毕敬地垂下了头，大气也不敢出。这一刻，大家都有一种强烈的感触——李鸿章已今非昔比，当年那个“奇才欲试万言诗”的激情少年已随风而去，现在站立在众人面前的，是凛若天神、威风八面的“宫保大人”。

常胜军在常州之战中损失惨重，中外籍官兵共阵亡五十人，伤员多达两百七十九人。戈登已无意重整旗鼓，英国政府命令他和所有被派到中国军队服役的英国军官，至迟必须在同治三年四月二十七日（1864年6月1日）全部各回原队。

李鸿章认为这是最后解决常胜军问题的时候了。其实，自从白齐文事件之后，他便发现英国不断加强对常胜军的干预，甚至已威胁到中国的指挥权了。这支由华尔一手创建的军队，此时已发展至六千多人，但依然“妾身未明”，说不清它究竟是一支中国军队，还是外国军队。李鸿章坚持说它是中国军队，归江苏巡抚节制，但这支军队却经常独往独来，不受约束；英国政府和领事团也经常给它直接发指示；加上它本身的雇佣军性质，这一切使得它的身份变得微妙复杂，它既像一个无主孤魂，又好像有很多个主。

李鸿章对此深感忧虑，因此，当戈登要离开时，他也不打算派中国军官去接替戈登的位置，而是宁愿壮士断腕，果断地解散常胜军。

可以对常胜军作一个盖棺论定的小结了。创立三年以来，它在上海附近地区打了大大小小一百多场仗，攻陷了五十多个县城；其间有四十八名外国军官阵亡，七十三名外国军人受伤；它为中国引进了很多现代的武器装备、作战技术和治军方法，带着李鸿章走过最初的现代化启蒙阶段。现在是它寿终正寝的时候了。一方面，在这场朝廷与太平天囯的战争中，华尔时代的常胜军贡献良多，但到戈登时代，除了炸炮还一样凶猛外，士兵的作用已微乎其微，甚至是可有可无的了。另一方面，常胜军的存在，却为外国直接干预中国事务，提供了一个理由、一个切入点。事实上，这种干预正在逐年加深与扩大，就像一群白蚁不动声色地侵蚀着一幢大厦，这引起了李鸿章的警觉。

四月初七，李鸿章上奏朝廷，称在常州克复后，戈登提出想辞职归国。他说：“（戈登）因常胜军洋枪队近来老勇大半逃亡，逐渐新募，打仗不甚得力，欲将枪队调回昆山，妥为遣散，以节糜费。暂留炮队六百人，并外国大小炸炮送交臣处，派员接管。其所用外国弁目，陆续资遣，志趣甚属公正。” 常胜军拥有汽船六艘、大炮五十多门，包括发射三十二磅炮弹的攻城加农炮四门、发射二十四磅炮弹的榴弹炮三门，此外还有大批恩菲尔德来复枪和托尔毛瑟枪。这是李鸿章最看重的“遗产”。

对去年朝廷赏给他的一万两银子，戈登仍坚决不收，他认为金钱不重要，只求给予他体面的荣誉。因此，李鸿章建议把这一万两赏银作为遣散费，匀分给常胜军士兵，另由朝廷授予戈登表功旗帜和仿照欧洲式样制作的金宝星。

两宫太后对戈登主动提出遣散常胜军，固然喜出望外，但也困惑不解，担心他另有所图。