墨子說，如果僅靠一個人的力量來耕種田地，隻相當於一個農夫的作用，即使風調雨順能有所收獲，而把收獲的糧食分給全天下的人，每個人恐怕連一升糧食也分不到，因此耕種並不能使天下的饑餓者溫飽。同樣的道理，靠一個人的能力織布，也不能使天下的寒者都有衣穿；靠一個人的勇氣去打仗，也不能抵禦敵人的進攻。墨子通過耕織打仗和教育做比較，推論出個人實際勞動給世人的幫助極為有限，而如果用教育來進行，用先王之道、聖人之言進行上說下教，就會取得加倍的效果。如果施政者能夠實行教化，那麼國家就能得到治理，平民百姓聽從教導，舉止就會變得有修養。教育雖然不是具體的生產活動不能帶來實際的物質，但是能提高人們的人格修養，推動整個社會的進步。從這個角度來說，“有道教人”比“有力助人”、“有財分人”在實際效用上的作用要大很得多。
而墨子也認為，社會上大多數的人對於“義”的認識還不太充分，因而墨子才身體力行的宣傳“義”，宣傳自己兼愛非攻的社會理想。
《魯問》中曾記載了吳慮墨子之間的一段對話：
吳慮對墨子說：“義，貴在切實之行，你何必空言！”
墨子問道：“假設天下的人不知道耕作，教人耕作的人與不教人耕作卻獨自耕作的人，他們功勞誰的多？”
吳慮答道：“教人耕作的人功勞多。”
墨子又問：“假設進攻不義的國家，擊鼓使大家作戰的人與不擊鼓使大家作戰、卻獨自作戰的人。他們的功勞誰的多？”
吳慮答道：“擊鼓使大家作戰的人功勞多。”
墨子說：“天下平民百姓少有人知道仁義，用仁義教天下人的人功勞也多，為什麼不勸說呢？假若我能鼓動大家達到仁義的要求，那麼，我的仁義豈不是更加發揚光大了嗎！”
墨子把自己教人“行義”的作為看作是教給農民耕作的方法、為士兵擊鼓助威的活動，這樣來論述教育對於人的重要性並不為過。如果農民不懂得耕種的方法，即使付出再多勞動也不會獲得好的收成；如果士兵在打仗是沒有鼓聲的激勵就不能和同伴們協同作戰，即使單個士兵在勇敢也不會取得勝利，同樣，如果人們都不懂得“義”的重要性，就會生活在思想的混沌之中，社會也就不會進步了。因而墨子主張通過教育的方法來讓人們懂得天下的“大義”。
那麼，為什麼通過教育就能夠讓人們認識到“義”呢？墨子在這個問題上也給出了答案，墨子認為，人的本性是可以通過教育而發生改變，在《所染》篇中，墨子通過“染絲”的例子來推理人的本性也可以改變。
墨子說：“染於蒼則蒼，染於黃則黃，所入者變，其色亦變。”認為人的品性也像白絲一樣，因為後天的習染而改變。墨子認為如果一個人的朋友“好仁義，淳謹畏令”，那麼他也會跟著受到影響，我們常常通過一個人的朋友就可以大致看出這個人的品行。既然人的品行會通過教育得到改變，那麼對他們進行教育讓他們明白“義”，是可以實現的。
墨子還提出了“兼士”應該具備的品質：厚乎德行，辯乎言談，博乎道術。在教育的過程中要對這三方麵的能力進行培養。此外，墨子還認為應該大量的培養這種人才，以盡快推動社會的發展。
可以說，墨子在培養學生上有鮮明的政治目的，他想通過教育來培養一批墨家的精英弟子，他們能夠忠實的推行墨家學說、執行墨家主張。而事實也證明了墨子教育的成功，史書中就記載了墨者們在關鍵時刻挺身而出，為了實現墨家政治理想和宗旨視死如歸的事件。墨家子弟們為了實現和平互愛的社會理想而舍身忘死的精神，正是墨子“為天下大義”的教育目的在現實生活中的具體體現。
正因為墨子這種以實現天下“大義”為理想的教育目的，墨子成為一個偉大的教育家，使得墨家成為當時“世之顯學”，使得墨家的精神興盛至今。