第一，重視民眾教育。社會教育司的設立，是中國教育史上把民眾教育列入官製的開始。蔡元培多年留學歐洲，發現那裏的社會教育十分發達，與他們國力的增強有直接關係。同時他深為我國文盲充斥、年長失學者過多而憂慮，認為國家如此下去非常危險。主持教育部工作後，他便大力提倡社會教育，以提高整個民族的文化素質。社會教育司的設置，對於我國近代文化體育等各項事業的發展都起了推動作用。
第二，注重初等教育的發展。我國曆史上初等教育多為私學(稱蒙養教學)，程度不齊，管理不善。民國教育部在普通教育司的章程中，強調了對於私塾的改良，提出要進行有關兒童入學的調查，要專門獎勵小學老師，並要掌握專管初等教育的教育行政部門的變更事項等，使初等教育的管理在普通教育司中占有重要的地位。
第三，教育總長的地位、權限有所提高。教育部官製規定教育總長有權監督地方最高行政長官對教育的實施情況，使教育不完全從屬於國家的行政機構，而有相對的“獨立”性。
第四，開始建立近代教育行政視導機構。教育部內設立了視學室，這是我國近代教育部設立視導機構的開始。1913年，民國教育部公布了《視學規程》，規定將全國分為8個視學區，每區派視學2人，視察該區的普通教育和社會教育。視學分為定期、臨時兩種。規程還對視學人員的資格、視學的具體內容、視學的原則以及視學結果的彙報等作了規定。此後，又公布了《視學室辦事細則》等法規，逐步建立了比較完整的視學製度。
總之，民國初年教育部的建製，比清代末年的學部有了長足的進步，它不同於封建官製，擁有一定的教育立法權力，其設置也有近代倡導的“組織法”作為依據，因此，可以稱作是近代的中央教育行政機構。
2．地方教育行政機構
（1）省級教育行政機構
民國建立後，清末原有的提學使司宣告廢止，各省在軍政時期，一切行政均隸屬於軍政之下，省級教育行政也大多由省都督府兼管。各省都督府為了管理方便，在分署中設立了專管教育的教育科，管理全省教育行政事宜。學務比較發達的省區，如江蘇省規定省立各學校，由都督府管轄；縣立學校由民政長官管轄。京師地區則設學務局，其中設局長1人，主持局務；副局長1人，輔助局長工作。設總務、中學、小學、通俗四科，任用科長科員，分科治事。教育部曾試圖劃一地方教育行政製度，但沒有結果。
（2）縣級教育行政機構
民國初年，縣級教育行政機構的設置十分混亂，有的縣設立了學務委員會，有的仍保留著勸學所的建製，有的將勸學所並入縣公署，有的設立教育公所，有的專設立縣視學，如此等等。1914年12月，教育部正式公布了《勸學所規程》，通令各縣設立勸學所，“輔佐縣知事辦理縣教育行政事宜，並綜核各自治區教育事務”。規程規定勸學所設所長1人，勸學員2-4人，勸學所經費在地方公款項下自籌等。自此，紛亂的縣級教育行政機構才大體穩定下來。
可見，這一時期地方教育行政機構的改革，並沒有像中央教育行政機構那樣受到相應的重視，其教育管理的職能也沒有得到應有的發揮。這必然會影響地方教育事業的發展。
（二）北洋政府的教育行政製度
北洋政府時期仍然沿用民國初年設立的教育部。但是，北洋政府在短短十餘年間先後更換教育總長近30人次；最高教育行政長官的頻繁更迭，反映了北洋軍閥統治時期教育管理的混亂，也嚴重影響了民國初年教育的改革與發展。