武訓從困苦中體會到讀書的重要，因為自己沒讀書不識字，無法有大作為，所以他決心要辦義學，讓窮人家的小孩也能讀書，不願別人再像自己一樣，因為沒錢而錯失了學習的機會。於是他白天乞討，晚上搓麻繩，經過三四十年的努力，武訓的學堂——“崇賢義塾”果然興辦起來，嘉惠了許多學子。
武訓十分關心學生的課業，對老師更是敬重。但是如果遇到不認真教書的老師和不用心學習的學生，他就跪在他們麵前，請求他們要各盡本分，好好努力，因此師生都大受感動，不敢懈怠。武訓辦學的精神感動了許多人。
柳林崇賢義塾
1888至1889年春，武訓用其曆年所積資金在堂邑縣柳林鎮東門外創辦“崇賢義塾”。該義塾占地3.87畝，有瓦房20間，“一”字排開，分別為書房、飯堂、學生齋舍和塾師住室。另有大門、二門各一座。四周築垣牆，院內植白楊、國槐、垂柳。招收經、蒙兩班，蒙班30餘人，經班20餘人，學生均免費入讀。武訓過世後，因來塾人增多，1897年，武訓的賬房武茂林於崇賢義塾重門外增建東西瓦房6間，碑樓三座。1899年，武茂林又於武訓墓旁建武訓祠堂6間。至此，義塾更顯整肅、壯觀，成為學童讀書謀求上進的大好場所。
“崇賢義塾”的組織領導機構為校董會。1905年，清廷頒布“廢科舉興學堂”諭令後，“崇賢義塾”奉飭改為私立武訓第一初等小學堂。“崇賢義塾”在武訓精神的感召下，義學學風甚佳，塾師勤於執教，生童發憤攻讀，嚴守義塾學規，因此，“崇賢義塾”一方麵普及了文化，一方麵也培養了不少熱衷於仕途功名的士子。民國初年，該塾改為私立武訓小學校，開辦初、高兩等班級，抗日戰爭初期，該校曾一度變為日偽進行奴化教育的場所。1942年柳林解放後，抗日政府以其校址改為抗日高小，兼辦過初中班，但因災荒嚴重而停辦。不久，學校又恢複為武訓小學。1945年10月，冀南行署在其舊址創辦武訓師範學校，武訓小學隨改為師範附小。1951年武訓遭批判後，師範和附小分別改名為平原省堂邑師範和堂邑師範附小。1956年堂邑縣撤銷，柳林劃歸冠縣，學校隨改稱冠縣師範和冠縣師範附小。1962年，師範被裁撤，附小改為柳林完小。1977年後隨著武訓名譽的逐步恢複，1984年“武訓小學”的校牌又在“崇賢義塾”的舊址懸掛了起來。
育英堂義塾
1889年，館陶縣莊科村（現屬臨清潘莊鎮）千佛寺主持了證，因受武訓的感化，捐出積蓄和部分廟產，典買土地，籌建義學。武訓聞訊往謁，並將所蓄300千文捐出，共興義學。嗣後武訓又捐贈土地40餘畝作為該塾學田。這是武訓創辦的第二所義學，義學命名為“育英堂”。該義塾設於館陶縣（今屬臨清市八岔路鎮）楊二莊北街西頭路南，占地4畝有餘。靠街有大門一座，院內有東、西、南瓦房各3間，為學生教室，另有北屋2間，是師生的廚房。迎門牆左右各植蒼勁挺拔之翠柏兩株。院落不大，卻清秀整潔。該義塾純為蒙學，為三鄉五裏的貧寒子弟打開了讀書求知大門，聲譽遐邇，深得民眾讚揚。1910年，楊二莊義塾改為武訓初等小學堂，民初改為武訓小學校。1926年，該校遷往距楊二莊三華裏的艾寨張氏祠堂，並改為武訓完全小學。
臨清禦史巷義塾
1891年，武訓來到臨清繼續化緣募捐。當時臨清被滿清官兵騷擾得窮困不堪，無力讀書的貧家子弟比別縣更多，此情再次觸動了武訓“修個義學為貧寒”的念頭。臨清鈔關街紳士施善政平素欽慕武訓的為人，聞知武訓到來親自到破廟把他請到家裏，敘談了好幾天。武訓懇托施善政同當地紳士們商議，在臨清籌設義學。在施善政、劉輝堂等人的讚助下，武訓當年就募集了許多學款。1893年，武訓捐出行乞之資先在禦史巷買了一處房宅，後修理添造、擴充發展，至1895年學舍落成。它是武訓親自創辦的第三所，也是最後一所義塾。因地址在禦史巷內，故命名為“臨清禦史巷義塾”。
義塾建成之初，有校舍3座，19間，其中3間作為教室，其餘分別為師生和工役的住室、飯堂。另有大門、二門、三門各1座。武訓乞請士紳組成校董會，經理義塾的一切事務。聘請施善政為學董，貢生王丕顯為塾師。王丕顯為人篤實好義，苦心孤詣，經理義學，使該校在數年之間發展很快。該義塾在清廷詔令“停科舉，興學堂”之後曾改稱武訓蒙學堂、武訓初級小學堂。民國時期曾改稱私立武訓小學。1945年臨清解放，改為公辦武訓小學。1951年因武訓遭批判，校名中的“武訓”二字被強行裁沒，改稱臨清鎮第一小學。該義塾校址雖曾遷移而後複始，規模卻不斷擴大，至1945年，其規模已達到14個教學班，在校學生達600餘名，先後畢業學生千餘人，現該校已成為臨清市重點小學，並命名為臨清市武訓實驗小學。