高拱的官職被罷，高儀不久也謝世，剩下張居正一人獨守文淵閣，獨挑了首輔的重任。
十年寒窗，坎坷升遷。一生功名所求，現已達到了巔峰，真可謂一人之下，萬人之上。可一旦權柄在握，張居正反倒有些茫然了。他清醒地知道自己所處的位置將會是旦夕禍福的險境，是生拚死奪的戰場。凡行事做人，當更加小心謹慎。
自然，張居正心中也充滿著實現夙願的喜悅和整治朝政的壯誌，躊躇滿誌之情與優柔慎微之心兼而有之，倒使得張居正處理事情時相得益彰，既有深思熟慮的見地，又不乏義無反顧的勇氣。
明神宗朱翊鈞當皇帝時年僅十歲，所以皇帝的教育問題成為內閣首輔張居正的頭等大事。
張居正深感教育好一個皇帝是一件利國利民的大事，於是他自己毅然肩負起教育小皇帝的責任。
耳聞目睹了“庚戌之變”的張居正，對國家的安全和軍隊的素質極為擔憂，他從那時起就在謀劃著對邊防的整頓，立誓一定要使邊關安定，人民和睦，尤其是漢族和少數民族的關係問題，更是張居正所關心的問題。
張居正大膽地啟用了一批才智雙全的將領，對他們“委任責成”、“信而任之”。所以，“一時才臣，無不樂為之用，用必盡其才”。他所重用的譚綸、戚繼光、李成梁、王崇右、方逢時等人，都大顯身手，充分發揮了他們的聰明才智。
張居正通過重用英勇善戰的將帥，整修邊防，加強守備，改變了正統以來邊防日益廢弛的局麵；通過重用足智多謀的邊帥，改善蒙漢關係，改變了自明朝開國以來一直與蒙古所處的敵對關係和戰爭狀態，發展了兩族之間的友好交往，促進了我國多民族的統一國家的形成和發展。假如說，洪武和永樂年間，是用以攻為守的策略保證了北部邊防穩固的話，那麼，自張居正改善蒙漢關係以後，則是以和睦修好保證了北部邊界的安寧。這是完全符合曆史發展趨勢和各族人民共同願望的。張居正整修邊防，改善蒙漢關係的重大改革，是以其豐碩勝利的果實，載入史冊的。
張居正出任內閣首輔後，針對朝中空議盛行、不務實際、人浮於事、政令不通的現狀很是擔心。他曾和內閣次輔、大學士呂調陽對此作過多次討論，慷慨激昂，痛切時弊，激奮之情溢於言表。他下決心要徹底改革吏治，為他的一係列改革鋪平道路。因為他現在縱有許多想法，都是無實施的。自己的主張要靠外廷這些部、科、院的大小官員去辦，可相識滿天下，知心有幾人？如何才能把這群各自為政、一盤散沙似的“散兵遊勇”捏合成一支令行禁止、進退自如的精銳之帥呢？他心裏一直在暗暗地思考著。
萬曆元年（1573年）十一月，張居正上書請行考試法，神宗批準了他的請求。
明代早期運用的製度是對官吏政績進行考核。按明製，京官每六年考察一次，叫做“京察”，地方官每三年考察一次，叫做“大計”。但是在吏治腐敗，法令不行的情況下，這些製度或者流於形式，或者成為官員們爭權奪利的工具。張居正親見了官場中的醜劇和官吏們的不法行徑，深刻認識到不僅要對各級官吏進行定期考察，而且對其所辦的每一件事都要規定完成期限，進行考成。即所謂“立限考事”、“以事責人”。這是張居正考成法的一個重要特點。
張居正考成法的實際內容，正如他給皇上的奏疏中所講的，最主要的有以下兩條：第一，六部和都察院把所屬官員應辦的事情規定完成期限，並分別登記在三個賬簿上，一本由部、院留作底冊，一本送六科，一本呈內閣。第二，六部和都察院按照賬簿登記，對所屬官員承辦的每件事情，逐月進行檢查，完成一件，注銷一件，如果沒有按期完成，必須如實申報，否則以違罪論處；六科亦根據賬簿登記，稽查六部的執行情況，每半年上報一次，並對違限事例進行議處；內閣同樣亦根據賬簿登記，對六科的稽查工作進行查實。這樣，六部和都察院檢查所屬官員，六科稽查六部，內閣監督六科，層層檢查，內閣總其成，內閣遂成為實際的政治中樞，這就是張居正的統治體係，也是張居正對明代吏製的一大改革。