初战不利，碰了一鼻子灰，但蒋廷黻未受多大影响，他觉得做官同教书一样，都要有一定职业操守的敬业精神：

我唯一要出卖的是我的智慧和努力工作的愿望。根据这种意念，我认为循一般方法处理事务会令我一无所成。如果按照我自己的意思去做，虽然也可能失败，但是将来不会使我感到遗憾。于是我决定按照我自己的意思去做，排除一切应酬。当大家发现我的生活就是如此，并非不懂礼貌，或对某个人有好恶时，他们只有接受既成事实，把我当作一个怪人。

故而他决定按照自己的想法和判断去做事，岂能尽如人意，但求无愧于心。

进入政府后，他很吃惊地发现，机构臃肿、叠床架屋的现象很严重，大大影响了行政效率。于是，他向蒋介石进行了汇报，蒋要他拿出改革建议来。他兴冲冲地拟了一份精简机构的方案，第一要改善交通电信组织，保证铁道部和交通部权责分明；第二要取消经济委员会和建设委员会，避免彼此间机构重复之弊；第三是主张成立农林部，将农民工作从实业部中接管过来，专门从事以农立国的事务；第四则是基于政府部门办公用品报价不一，有人从中牟利的现象，建议集中管理办理公用品。蒋的这些举措，应当说皆指中了国民政府的弊端所在，而这些弊端正是大员小吏们敛财贪墨的渊薮。如今一旦改革，肥缺便荡然无存，自然会遭到有关部门官僚和党内政客的激烈反对，许多人给蒋廷黻打招呼，提醒他别“胡来”。有些人要他把建议中的某某部分删除：吴鼎昌不希望把农业工作从他的实业部中划出去；张嘉璈请蒋不要让他背上招商局的包袱；经济委员会秘书长秦汾告诉蒋廷黻，该委员会做过很多事情，不应裁撤；建设委员会的负责人告诉蒋，该委员会是张静江先生的灵魂，张与国父孙中山是莫逆之交，跟蒋介石的关系也很铁，所以于情于理也不该被裁撤掉。甚至就连共事于行政院的翁文灏也认为蒋的主张欠缺策略，怪他如同一只不知深浅的“瓷器店中的猛牛”，行事过于草率，劝他不可操之过急。

然而，这只“瓷器店中的猛牛”还真是犯了犟牛脾气，认为值此关键时刻，有压力、有不同意见实属正常，越是这样，越应当迎难而上，勇于任事。于是他对所有反对者说：“我要把建议呈给行政院长，时机成熟，他会征询大家意见的，届时大家可以提出反对意见。”大小官员们眼瞅做蒋的思想工作并无结果，于是纷纷去院长办公室“告御状”，把事情一直闹到蒋介石那里。

而蒋廷黻于二月底将建议稿完成后呈递上去，满怀希望的期待蒋委员长能够明察秋毫，虚心纳谏，推行自己的主张。不料，三月底，蒋介石命他和翁文灏对调工作，由翁来负责改革中央政府，蒋廷黻转而主持地方行政改革。蒋廷黻不干，认为蒋介石有欠公道。他给胡适写信表示：“我个人的去留是无关宏旨的，我们不干政治则已，干则此其时矣！”在蒋廷黻看来，这无疑是一种借打压一人以平息众怒的传统行为，实际结果必会导致政府内部惰性愈发严重，他心里自然十分不快，“我认为院长对我欠公道，不采纳我的建议，甚至连告诉我一声都没有”。蒋介石的此种做法何止是有失公道，这明显还是中世纪的那一套家长制作风，生杀予夺、是非对错都是由他一人说的算，别人永远无从插嘴。不知经历西方系统近代民主自由观念熏陶的蒋廷黻，是否已经发觉这个自称是要带领人民实现现代化的国民政府实际上仍旧是一座披着现代政府外壳的前现代城堡，里面的中世纪气味几乎让人窒息。他输给的不是那些反对者，而是这套形新实旧的制度。不过，虽然倍感失落，但蒋廷黻并没有退回讲坛，而是待在政府，等待下一次机会。他的人生悲剧从此也就缓缓拉开了大幕。