最重要的是，武七仍自律苦行。义塾创办之初，他准备丰盛的筵席招待教师，请学董和热心赞助的绅士们作陪，他自己并不入席，而是站在客厅外面，向来客磕头致谢。他说：“我不敢同老师和诸位先生们坐在一起，我站在门外，觉得心安，觉得快乐。 ”他跟学生们一样分得一斤馍馍，一碗大锅菜，仍舍不得吃，跑到庄外的砖窑上换了几块新砖回来，自己仍吃些残菜剩饭。义塾成立后，虽然已经实现了他的心愿，但他依旧过着漂泊无定的流浪生活，到处去要饭，仍旧住破庙。学生们劝他别再要饭了。他说：“我办义学的目的，不是为了个人的生活享受，完全为了使我们这群穷孩子们有机会念书！我过的生活自己并不觉苦，只要你们努力学习，我比什么都快乐。”
　　
　　这样三十年如一日厉行的人格力量迟早要进入社会的核心层面。后来的张学良说他“行兼孔墨”，这样一个最底层的中国人三十年来做着孔子、墨子的事业，那种力行示范不仅得到了乡邻们的承认，也最终获得了社会上层人士的尊重同情。在这样的人物事迹面前，任何有心人都是富有成效的传媒，迅速地让他进入全社会的视野中去。杨树芳等人把他的事迹呈报给知县郭春煦，郭大为惊奇，到义学视察，对武七崇仰不已，不仅赠银十两，而且把他的事迹转陈山东省巡抚请予嘉奖。
　　
　　山东省巡抚张曜知道后，邀见武七，见他疯疯癫癫的样子，以为他害过什么重病，他说：”
　　
　　“我不疯，我不病，一心只害义学症。 一面跟巡抚谈话，一面还不断地捻着线头。张巡抚大为感动，助他二百两银子作为义学的基金，另外给他方便劝募的缘簿，下令免征义学田钱粮和徭役，并给这个无名的同胞赐名训，从此，这个名叫武训的穷苦人教化、训导了几代中国人。
　　
　　张曜奏请光绪皇帝颁以“乐善好施”的匾额。武训的绝世奇行轰动朝野。当时的清政府已是大厦将倾、摇摇欲坠，仍令国史馆为武训的事迹立传。《清史稿》宣统本纪记载：“己未，予积赀兴学山东堂邑。义丐武训事实宣付史馆。”朝廷还授以武训“义学正”名号，赏穿黄马褂。
　　
　　武训甚至感动了佛门中人。在他五十三岁那年，馆陶县杨二庄的了证和尚，因为景慕武训的精神，而把自己的香火钱和部分庙产捐出来，想为穷孩子们办第二所义塾，武训听说后，主动找到了证，把自己的义学基金奉献出来，一起创办了馆陶杨二庄义塾。武训还感动了当时的教育部长。在他五十六岁那年，学部侍郎裕德到山东视察学务，武训拦轿向他募捐，裕德捐给他二百两银子。加上自己的旧存，武训在临清创办了第三所义学：临清御史巷义塾。
　　
　　在第三所义学创立的那年，武训已经五十八岁了。他长年苦行，至此耗干了精神，当年五月，武训得了重病。他住在义塾里休养，躺在屋檐下边，不肯占用一间房子。最初几天他不吃饭也不吃药，每天只喝几口开水。据说，只要听见学生们琅琅的读书声，他那病弱的脸上就有着无限愉快的神情。
　　
　　光绪二十二年（1896年）四月二十三日，武训病逝于御史巷义塾。根据《清史稿》的记载： “（武训）病革，闻诸生诵读声，犹张目而笑。”武训含笑离开了世界，享年五十九岁。出殡之日，堂邑、馆陶、临清三县官绅全体执绋送殡，遵照武训遗嘱归葬于堂邑县柳林镇崇贤义塾的东侧。各县乡民自动参加葬礼达万人以上，沿途来观者人山人海，一时师生哭声震天，乡民纷纷落泪。据说当时即有人相互低声议论：“谁说武训没有儿子？”
　　
　　在武训辞世的五十多年间，他的事迹感动了世界，首先感动了他的同胞们。
　　
　　1903年山东巡抚衙门为武训修葺了陵墓、建造了武训祠，并立碑为纪。1921年，民国大总统徐世昌赠给武训“热心公益”的匾额。曾任山东教育厅长的何思源拨款重建了武训祠，并在武训祠堂立了尊武训汉白玉雕像。1932年，山东省主席韩复榘建造了“武公纪念堂”，并在纪念堂两侧建造了两个“武公纪念厅”。1934年，临清县武训小学发起了武训九十七周年诞辰纪念活动。参加这次纪念活动的人几乎囊括了当时全国军政要员和文教界知名人士。蒋介石、张学良、杨虎城、冯玉祥、于右任、郁达夫、陈衡哲、何思源等人都对武训的办学精神给予了颂扬。1945年 12月，陶行知等人又在重庆兴起了纪念武训诞辰一百零七周年活动。郭沫若、邓初民、柳亚子等人参加了纪念会。陶行知在上世纪四十年代物价飞涨、教育经费紧张的时期，曾在全国提出“跟武训学”的口号，要求大家做“集体的武训”，艰苦办学。