顯而易見，府兵製最大的好處就是：國家不用養兵，可以省卻一大筆國防開支。但是，最大的弊端也在這裏。按規定，府兵出征時的武器、裝備、糧食、日常用品等等，一切均需自備。這固然減輕了國家的財政負擔，可對於個人卻是一種難以承受的重負。為國家賣命打仗，還要花自己的錢，這在今天的人看來無異於天方夜譚，可在當時卻是天經地義的。
唐朝初年，國力強盛，社會穩定，製度比較健全，府兵雖然負擔重，但他們可以在均田製的基礎上分配到足夠的農田，本人還可免除租賦徭役，而且無論是出征還是宿衛，都有嚴格的製度保障，兵役一結束便可回家務農，因此經濟相對比較優裕。然而，到了高宗末年和武曌時代，豪強兼並之風大起，均田製逐漸破壞，府兵很難分配到足額的田產，加之國家連年征戰，府兵家屬承擔的租賦徭役日重，而府兵出征戍邊的時間又嚴重逾期，往往是壯年應征而白首未歸，導致家中田地經年拋荒，府兵及其家屬普遍陷入貧困，甚至瀕臨破產邊緣。
在此情況下，無論是在役的府兵還是即將服役的適齡青年，要想讓自己和家人活下去的唯一辦法，就隻有一個字——逃！
隻有帶上妻兒老小，逃離他們的戶籍所在地，跑到別的地方墾殖開荒，他們才能活命。就算日子依然困窘，但至少不會戰死，不會餓死，而且一家人還可以在一起，不用承受生離死別之痛。
從武周時代起，戶口逃亡現象已經非常嚴重，府兵製漸趨衰敗。及至玄宗開元初年，逃亡人口有增無減，府兵製更是名存實亡，根本抽調不出足夠的兵力來宿衛京師。（《資治通鑒》卷二一二）
正是在這樣的背景下，張說向玄宗提出了改革兵役製度的建議。他采取的辦法是：麵向全國的所有青壯年公開招募，不問背景，不問資曆，不追查過去，並提供優厚待遇。張說相信，隻要采取這種新的兵役製度，已經逃亡的府兵必定會爭先恐後地前來應征。
開元十年（公元722年）九月，玄宗采納了張說的建議，開始實行募兵製。果然不出張說所料，短短旬日之間，朝廷便招募了足足十三萬精兵。
至此，已經在西魏、北周、隋、唐四朝實行了一百七十餘年的府兵製，正式退出曆史舞台，被募兵製所取代。
“兵農之分，從此始矣”。（《資治通鑒》卷二一二）
張說的這項改革，不僅使國家的兵源得以恢複，使軍隊實現了職業化，大幅提高了兵員的專業素質，而且徹底消除了老百姓的兵役負擔，讓大量的青壯勞力回到了田間地頭，穩定了社會秩序，促進了農業生產和經濟繁榮。因此，此舉跟裁軍一樣，其意義絕不僅限於軍事領域，而是一項於國於民都有極大利益的德政。
自古以來，中國就有盛世修書（修史）的傳統。
無論哪朝哪代，帝王和士大夫們總是把此舉視為政治昌明、文化繁榮的象征，並以此作為衡量盛世的主要標準之一。遠的暫且不說，僅以唐初的貞觀時代而論，在唐太宗治下的短短二十餘年間，官方修纂的前代正史就多達八種，占了《二十四史》的三分之一，堪稱規模空前的一大文化盛舉。唐代以後，每逢國力較為強盛的時候，官方就會適時啟動龐大的修書計劃，而且往往一代比一代範圍更廣，力度更大，種類更多，卷帙更繁。比如宋之《冊府元龜》《太平禦覽》，明之《永樂大典》，清之《四庫全書》等，無不是當時的統治者為了彰顯其盛世氣象而傾力為之的重大文化成果。
而唐玄宗之所以起用張說，其主要目的之一，當然也是為了讓這個“一代文宗”能夠在“文治”上作出貢獻。開元十一年（公元723年），玄宗創辦了麗正書院（兩年後更名為集賢殿書院），由張說領銜，擔任“修書使”主持院事，然後彙聚當時的文學英才（其中就有著名詩人賀知章），以四部分類法對古籍進行全麵的編校整理，同時承擔為皇帝講解經史的職能。書院成立後，玄宗特意交代有關部門，一定要為書院提供最好的設施和條件，並為院士們提供最優厚的待遇。