张謇的考试之路并不顺利。从十六岁录取生员起，中经十八岁、二十一岁、二十三岁、二十四岁、二十七岁前后五次赴江宁府应江南乡试（俗称南闱）均未中试。直至光绪十一年（1885年）三十三岁，因孙云锦官江宁府尹，子弟依例回避，张謇转赴顺天府乡试（俗称北闱），取中第二名举人，俗称“南元”（南人列北榜名次最先者），他的名声才渐渐在士林传开，成为朝廷派系延揽的对象。清流派的翁同龢、潘祖荫等人对张謇有提携之意，“期许甚至”、“荐而不中”，几次误把他人卷子认作张謇而取中会元；张謇三十四岁应礼部会试不中；三十七岁赴会试，试卷为无锡孙叔和所冒，孙中而张落；三十八岁应会试，场中误以陶世凤卷为张謇卷，陶中“会元”而张落第；四十岁赴会试，试卷又被武进刘可毅所冒，刘中会元而张又落第。这情形颇类似高考或公务员考试，流水有心，落花无意。
　　
　　从小考到大魁，先后二十六年。岁试、优行试、考到、录科等十次（各处书院考试还不在其内），加上乡试、会试、殿试共二十二次，先后在考场中渡过一百六十多天。此后，三十四岁、三十八岁、四十岁三次会试，也都没有考中。屡屡败北，使他一度灰心丧气：“栖门海鸟，本无钟鼓之心：伏枥猿驹，久倦风尘之想”，但到头来他还得拼搏于考场。北洋大臣李鸿章、张树声和吴长庆等人曾推荐他到朝中任事，他觉得自己功名未成而坚辞不受。张树声做总督时再次延请张謇前去任事，他仍然婉言谢绝，这就是他“南不拜张北不投李”的由来。
　　
　　考场不果，他的人生就全为此功名之心充满。四十一岁前他做了不少实事，跟朝中大臣、封疆大吏做事，但没有考取功名总让他觉得不能一展才华，“为国家伸眉，书生吐气”。好在张謇懂得上进，他在考场上的挫折，不妨碍他在学业的进步。光绪五年的三院会试之后，担任副主考的总督沈葆桢，在病榻上曾托人传话给他：“做文章不可只学《班书》，要着重看《史记》。”张謇因此下苦功钻研太史公的著作，还学习《管子》、《晏子》等历代著作，大量阅读明、清地方志书，日积月累，博闻强记，打下了坚实的基础。他多次落第，引起不少人的同情。工部尚书、光绪帝的师傅，跟他的南通只有长江相隔的常熟人翁同龢等人想让张謇管国子监南学，对他说：“南学的诸生愿为你捐纳学正官，留管学事。”那时他年已四十，考进士屡汰不中，以后有没有希望很难说，有此机会对别人可谓求之不得，但他仍“峻词以拒”。这种局面终因慈禧太后六十大寿辰设恩科会试有了改变，张謇多了一次机会，而翁同龢要让张謇过关的心思几乎“志在必得”。这跟当代的高考一样说明人才闯关的偶然和侥幸。
　　
　　光绪二十年（1894年），张謇奉父命再次进京参加礼部恩科会试。他在二月的礼部会试中考中第六十名贡士，在三月的礼部复试时中一等第十名，“初定十一，常熟师改第十”；在四月殿试时，张謇的“常熟师”翁同龢命收卷官坐候张謇交卷，然后直接送到自己手里，匆匆评阅后，大加赞赏，提笔批了几个大字：“文气甚老，字亦雅，非常手也！”翁还做了其他阅卷大臣的工作，众主考官经过争议，最后一致同意翁同龢的意见，将张謇列为第一名进士。在向光绪帝引见时，翁同龢特地介绍说：“张謇，江南名士，且孝子也。”张謇得中一甲一名状元，照清廷惯例，新科状元张謇被钦授为六品翰林院修撰。
　　
　　但中年成功的张謇已经看淡功名。他登上了科举制度的金字塔顶，本可以攀爬官僚体系那座更高也更为显赫的山峰。翰林院地居清要，三年后经过考校评定等次，或以编修检讨留院，或以主事分各部尽先任职，或以知县由吏部以实缺选用，然后再一步一步攀高，直至封疆大吏或朝廷重臣。他夺魁之后，有同窗好友在南通建造一亭，取名“果然亭”，寓意功夫不负有心，功名果然到手。张謇亲自改为“适然亭”，并手书一副槛联：“世间科第与风汉，槛外云山是故人。”他仍然有风云之志，机敏之才。据说有一次他陪伴太后，雪霁天晴，后宫缸口有一圈残雪，慈禧出了一道上联“雪落缸口，天赐一条玉带”，张謇随即应对“虹出海外，地涌半副金环”，让慈禧大为高兴。但他的观念已经跟一般的学而优则仕的士绅意识大大不同了。有一次，张謇随同文武官员迎候慈禧太后回宫，当时狂风呼啸，大雨倾盆，许多白发苍苍的老臣跪迎道路两侧，积水盈膝，全身匍匐。长长的仪仗队吆五喝六地走过来，慈禧太后坐在后面的轿子里，连轿帘也没掀，不理会众臣，就晃晃悠悠地过去了。这跟当代的官僚体制异质同构，官大一级压死人，上级面前媚态尽，在饭桌上、会议室里，言行举止间总是合谋出一种为主子鞠躬尽瘁的氛围。据说这件事对张謇刺激很大：堂堂七尺男儿，连条虫都不如，有志气的人能做这种官吗？他因此产生了回乡之念。