對於當時國力匱乏和盜賊橫行的問題，張居正認為是吏治不清造成的。官吏貪汙，地主兼並，引起部分人錢包大鼓，朝廷卻是囊中羞澀。加上皇帝太不像樣，揮霍無度，百姓因此吃不飽睡不好，無奈之下上山當了草寇。張居正很高明地把了國家的脈象，政不通，社會問題就得不到解決。於是，在萬曆元年（1573年）十一月，張居正上疏對官員實施績效考核，即“考成法”，以便明確職責。針對公文傳遞過程中“上之督之者雖諄諄，而下之聽之者恒藐藐”的弊端，張居正上書皇帝提出改革，以六科控製六部，再以內閣控製六科。朝廷的六部、都察院，其奏疏凡得到皇帝批準的事項，轉行到各衙門，根據事情的輕重緩急、地方的路途遠近，限定辦理期限，每月月底清點。事情辦得怎樣，就靠這條線層層監督，一隻眼逐級盯下去，評定官員的一個指標就是辦事的效率和質量。
張居正在施行考成法時，還將追收賦稅作為考成的標準。一時間，全國各地官員不少因考核成績不合格，或無法繳納賦稅而遭到降職處分。官員們再不敢貪汙受賄，唯恐丟了烏紗帽。然而，對官吏的管理限製勢必損害官僚豪強的利益。當改革與製度碰撞時，失敗的往往是前者。
不管張居正的改革多麼成功，他倡導的始終是地主階級內部的改良運動。改革雖然清除積弊，澄清吏治，抑製豪強，減輕農民痛苦，卻樹立了大地主階級這個強敵。而財政收入的提高，致使官僚豪強大地主對百姓的盤剝加重。
隨著張居正一死，一度遭受張居正精神壓迫的神宗萬曆皇帝情緒出現大幅度的反彈，開始瘋狂破壞張居正一手建立的國家機器。新政被廢除以後，國家朝政急劇敗落，有的危機不僅故態複萌，統治機構還出現自行解體的趨向。各種社會矛盾環環相扣，交錯而起，一場更為嚴重的危機鋪天蓋地席卷而來。官僚體製被破壞，國家庫藏被耗盡，平民百姓生活在水深火熱中，民眾起義此起彼伏，全國各地怨聲載道，朝堂動蕩不安。
一場轟轟烈烈的改革，成果輕易地被破壞，這究竟是張居正的悲哀，還是大明王朝的悲哀？尋根究底，是體製的弊端造成了改革的悲劇。而對於張居正這個人，曆史上有人罵，也有人捧。有人說，張居正“固然不是禽獸，但是他也並不誌在聖人”。仔細琢磨，此說法竟也中肯。張居正隻是一心一意為他的國家傾盡心力，隻不過是時代沒有給他理想的機遇而已。