由于事前工事守备部队与作战部队未取得联络，作战部队未获工事位置图，更无人充当向导。仓皇撤退时，数十万大军竟越过这条国防线而西去；有的部队虽到达国防线而停下，却找不到工事的钥匙，空望其门而不得入，只好忍痛放弃。日军跟踪追击，未遇抵抗，不数周，便自东西两面合围南京。

淞沪会战失败以后，蒋介石曾命何应钦、陈诚和德国总顾问法肯豪森等，研究南京守与不守的问题。结论是“不能守”。当何应钦等向蒋介石呈报后，蒋遂决定放弃南京，并命令陈诚、顾祝同等率嫡系主力赴皖南整补和部署下期防御。然而不久，蒋又忽发奇想，“以主力守南京，以一部退皖南”。11月17日至18日两天内，蒋介石接连召开了三次高级幕僚会议，以统一守南京的认识。会上何应钦虽诧异于蒋介石的朝三暮四，但对蒋的一言一语唯唯诺诺。

12月5日，日军开始进攻南京外围，中国守军进行了坚决的抵抗。13日，敌军攻陷南京，随之开始了惨绝人寰的南京大屠杀。南京的失陷，早在何应钦的计划之中。而蒋介石出于政治考虑，忽又决定死守，由此所出现的决策指挥失灵和混乱便是必然的了。先是何应钦主持的战前疏散成了竞相逃亡。“官员逃亡——看成重要的是私物；公物则听其造化，各机关、代表争执谁应先逃命。”随后是战时的大溃乱。12日下午5时，十多万大军指定由同一条路线撤退，从新街口到挹江门的道路全给军队堵塞，队伍互相践踏。“守城某师，又守住挹江门不让别的部队退出，开枪阻止，秩序更乱，即使出了挹江门，淹死在江里的又很多，而敌人的军舰却又在此时通过江阴封锁线，到达江心，致我退却部队，陷于极端溃乱状态。”守卫南京的一20万军队，仅第六十六军转移至浙皖边区，其余小部分突出重围，大部分均与城共存亡。

1938年1月10日，何应钦被特任为参谋总长兼军政部长，仍兼第四战区司令长官，真正集作战、后勤重任于一身，这算得上达到了他军政生涯的峰巅。但这种权力对他是名不符实的。大事他不能作主，中事由各职能部门处理，小事全由幕僚代劳，他确实只充当了蒋介石的传声筒，充其量是看主子眼色行事的总管。

1938年4月6日晚，台儿庄歼敌1.6万余人的消息传到武汉，何应钦即致电祝贺。这一胜利，对大溃败中的国民党军起了暂时的鼓舞作用，但同时也促使了国民党内某些人“速胜论”思想的抬头，忽视了日军准备已久，我方也早已预料到的徐州战役。5月19日，敌轻易攻占徐州后，即沿陇海路向豫东进击，开封、新郑接连失守。为阻止日军攻占中原战略要地郑州，何应钦参与了蒋介石所决定的花园口决堤事件。滔滔黄水虽然暂时阻断了日军直接进犯中原之路，但豫、皖两省3000多平方公里一片泽国，数十万人民死于洪水或流离失所。日军因此改变战略，调豫东军南下，开始了中夺武汉，南取广州，北围五台的疯狂进攻。而此时何应钦和国民党的决策者们，“普遍对战事抱乐观态度”，认为“日本向汉口的推进为中国提供了战略优势，因为战线被拉长，而中国也得到后备时间部署后备部队”。

从1938年6月12日至10月25日的武汉会战，历时约4个半月，大小战斗数十次，日军死伤20万以上，投入的12个师团补充了五六次，空军和海军亦受重大损失，可见战斗之惨烈。