一、整頓吏治，講求實效。張居正認為，吏治的好壞，直接影響到國家機器能否正常運轉。嘉靖、隆慶年間政局混亂，其症結在於吏治腐敗，名實不符。官僚們或“大言無當者，以虛聲竊譽；倜儻伉直者，以忤時難合；而脂韋（圓滑阿諛之意）逢迎者，以巧宦（善於鑽營趨奉）取容”。他還認為，造成明中葉以後農民起義的原因是政治腐敗，官吏貪殘，所謂“吏不恤民，驅民為盜，此皆釀禍之根”。為此，張居正主張整頓吏治，裁汰一批因循苟且的官僚，獎勵一些“急功進取”的官吏。他在執政伊始，就奏請神宗實行考成法。他在上給神宗的奏疏中說：“蓋天下之事，不難於立法，而難於法之必行；不難於聽言，而難於言之必效。若詢事而不考其終，興事而不加屢省，上無綜核之明，人懷苟且之念，雖使堯舜為君，禹皋為佐，亦恐難以底績而有成也。”考成法規定，吏、戶、禮、兵、刑、工六部及都察院對於各項章奏，都應立即轉各有關衙門執行。轉發前，“俱先酌量道裏遠近，事情緩急，立定程期，置立文簿存照，每月終注銷”。此外，另立兩本文簿，一本送六科備案，由各科查核執行情況，任務已執行者在冊上注鐺，未按規定執行者則糾舉上奏；一冊送內閣查考，如果發現六科所報有容隱欺蔽者，則加以舉奏。這樣，對於應辦之事，從內閣到六科，從六部到各衙門，都做到心中有數，層層考成，做到“月月考，歲有稽，不惟使聲必中實，事可責成，而參驗綜合之法嚴，即建言立法者，亦將慮其終之罔效，而不敢不慎其始矣”。
按照明朝的祖製，一切行政事務，分屬吏、戶、禮、兵、刑、工六部，各部行政長官有尚書、左右侍郎。同時又有吏、戶、禮、兵、刑、工六科，各科有都給事中、左右給事中、給事中。尚書是二品，都給事中隻有七品，但是對於六部有封駁、糾劾之權，六科實際上是六部的監察機關。內閣本來是皇帝的秘書處，事實上不負行政責任，更談不上監察責任。實施考成法之後，居正以內閣控製六科，就從立法上擴大了內閣作為中樞機構的權限，這不能不說是一創舉。考成法實施後，對於貫徹朝廷政令，特別是在整理賦稅方麵，產生的影響最大。與此同時，張居正對於用人行政方麵，也針對當時存在的弊端，提出了一些改革意見。他提出今後用人，應當“但問功能，不可拘資格”，苟“非貪婪至無行者，盡可隨才任使”。萬曆二年（1574），為了糾正當時存在的“官不久任，事不責成，更調太繁，遷轉太驟”的消極效應，張居正又推行了內外官久任法。規定：知府、知縣六年一遷，其間如發現某人不宜任某官，某官不宜在某地的，撫、按官可量行更替；各省布政使、按察使三年一遷；中央科、道、部、曹六年一遷。這樣，“藩（布政使）、臬（按察使）、守、令皆得自展”，努力盡心本職工作。他還主張慎選地方官吏。他說；“守令者，親民之吏也。”請求皇帝“勒下吏部，慎選良吏，牧養小民，其守令賢否殿最。惟以守己端潔，實心愛民，乃與上考稱職，不次擢用。若但善事上官，幹理簿書，而無實政及於百姓者，雖有才能幹局，止於中考，其貪汙顯著者，嚴限追贓，押發各邊，自行輸納，完日發遣發落”。經過一番整頓，萬曆初年吏治情況大為好轉，中央政令，一經發出，“雖萬裏外，朝下而夕奉行”。
在職官方麵，明朝在永樂十九年（1421），遷都北京後，南京仍保留六部諸寺，但多半形同虛設。嘉靖、隆慶年間曾開始裁革。萬曆三年（1575），在張居正的主持下，朝廷下令：此後南京官員出缺，非緊要者不必一一推補。經過九年的裁革，除了有名望的大官和必須的屬員以外，凡冗濫者皆裁汰之。這些都是居正任內的成績。