父親聽了很高興，覺得酈道元看問題很準確。於是又問道：“那你現在有什麼想法沒有？”
“我想編一本很全麵的書，可是我的知識遠遠不夠！”酈道元答道。
“知識是靠積累的。古代有學問的人都是通過長期艱苦的努力，發奮讀書才有所成就的。你的想法很好，但要把它變為現實，必須努力讀書。”
酈道元點了點頭，暗暗下定決心，一定要努力學習，實現自己的願望，為後代造福。
此後，隻要有機會，他就到各地考察祖國的大好河山，並做好記錄。回到家後，再結合有關地理書籍進行整理。幾年之後，他在地理方麵的知識已經十分豐富了，人們有不懂的地方總是來請教他。
後來，酈道元繼承了父親的職位，先後在山西、河南、河北、陝西、安徽等地做官。每到一個地方，他都認真處理政務，閑暇時間則大部分用在了地理考察上。但由於他為人耿直，不願意趨炎附勢，因此得罪了不少權貴。公元518年，酈道元和好友寇治同時被人陷害，丟了烏紗帽。在臨別的時候，朋友們在告別宴上一再叮囑他以後為人要圓滑一些，免得得罪太多人。但酈道元表示：“不要為了別人而失去自我，在位一天，就必須為老百姓幹一天的好事。我並不在乎被罷官，相反我很慶幸現在有充分的時間去幹我想要幹的事了。”也就是說，他要實現年少時的宏願，撰寫一本全麵的地理著作。
回到家中，酈道元便開始著手撰寫書了。他覺得《水經》這本書的寫法還不錯，隻是太不全麵了，於是他想寫一本更詳細的《水經》。此後，整整七年的時間，他將全部的精力都投入到了這本書的寫作之中，常常是閉門謝客，將自己沒日沒夜地“囚禁”在書房，隻是偶爾發現資料不全或需要核對時，才出去考察一番。七年之後，辛勤的勞動終於換來了收獲，一部30多萬字的《水經注》完成了。
《水經注》是以給《水經》作注的方式來撰寫的，但它的內容比《水經》要豐富得多，文字是原來的20多倍；書中記錄的河流也比原書多出1000多條。原來隻有137條，《水經注》則達到了1252條。全書知識豐富，文字也很優美；不但有地理知識的描寫，還講述了一些相關的風土人情，內容生動活潑。
許多年後的明代，徐霞客看了這本書之後連稱“好書、財書”。直到今天，它仍具有很高的史學價值。