1905年春，入澄衷学堂，读严复之《天演论》《群己权界论》，梁启超之《新民说》等进步书籍，“开辟了一个新世界”。接受二哥的建议，取名“胡适”，字“适之”。次年，当了班长，作《物竞天择，适者生存，试申其义》一文，成为第一篇正式文章。不久，因学校开除一名学生，胡适为之不平，出面与校方交涉，竟然被悬牌记大过处分，愤然离校。

1906年夏，胡适考进中国公学，搬进虹口新靶子路中国公学校舍。私立的中国公学，创办伊始，经济窘迫。后得到两江总督端方的帮助，方站住脚跟。中国公学师生中有不少革命党，胡适在《中国公学校史》中说：“中国公学和中国革命的关系，这实在有深厚的渊源。”当时中国公学的革命党组织了一个公开外围组织，叫“竞业学会”，其宗旨是“对于社会，竞与改良；对于个人，争自濯磨”。为此，还创办会刊《竞业旬报》。胡适积极为之写《无鬼丛话》等破除迷信的文章，同时撰文批判社会政治，如《中国的政府》《爱国》等文，将矛头指向中国政府崇洋媚外丑行。他还写了不少关于伦理家庭人格自治和关于中国妇女问题的文章，如《婚姻篇》《敬告中国的女子》等。把婚姻问题当作与中国社会兴衰攸关的大事，很有穿透力。

《竞业旬报》的主笔，前后有三位：傅君剑、张无为、胡适。胡适是最后一位主笔，任期最长、文章最多。到第四十期，胡适发表“铁儿启事”，辞职不干后，《竞业旬报》也就“寿终正寝”了。胡适多以铁儿为笔名，“启事”说：“鄙人今年大病数十日，几濒于死。病后弱质，殊不胜繁剧，旬报撰述之任现已谢去，后此一切，概非鄙人所与闻，此布。”后来胡适回忆道：他作为主笔，是有了“一个绝好的自由发表思想的机会”，“充分发挥我的思想”。《竞业旬报》培养了胡适独立思考、大胆说话、自由表达意见的习惯和能力。

胡适在中国公学，还是一位“少年诗人”。所作的悠远吊古之情的诗《西湖钱王祠》，忧国忧民、存志高远的《送石蕴山归湘》，使他的诗名蜚声中国公学校园，也为少年胡适开辟了一个崭新的世界，为他成为“新诗的老祖宗”打下了基础。

1909年深秋，中国公学解散。胡适清楚记得，那是一场悲壮的风流云散，他精神上陷入惶惑的同时，经济上也遭到危机，家业败落，连自己的糊口都成了问题，更无法赡养只有薄田几亩、半栋老屋的母亲。前途茫茫、忧思戚戚的游子胡适，“连日百无聊赖，仅有打牌以自遣……只得呼卢喝雉为解愁”（胡适1910年1月31日日记）。甚至“赌博到吃馆子为止，逛窑子到吃‘镶边’的花酒或打一场合股份的牌为止”（胡适日记）。但有些论者就此坐实了胡适“嫖妓女”，就有些别有用心了。

但胡适在颓废中并未自甘堕落。他还在读书，作读书札记，还认真教书和修改学生的作业，他还与文人聚会谈诗论文，他还接受王云五的劝告，业余时间翻译外国小说，写些文章，有收入可以维持生计。是的，胡适因理想破灭与交友不慎，一度沉沦过，但他自幼培养起来的读书习惯、求知欲望与怀疑精神并未泯灭，自省与洗心革面意识的火苗不时在胸中升腾。