他發現從漢末到齊梁的300年間，我國古代文學擺脫了經學的束縛，文學的藝術特征和社會意義逐漸為多數文人發現和認識，開始深入探討文學本身的特點和規律，提出了一些嶄新的概念和理論。形成一股新的文藝思潮。這一切，就對人們提出了從理論上加以總結的曆史要求。
於是他產生了要寫一部總結這一規律的文學理論書。經過五六年的努力，劉勰以極大的毅力，終於在36歲（501年）時，完成了我國古代第一部完整的文學理論巨著《文心雕龍》。
劉勰的著作完成後，不被當時的人所認同，但劉勰充滿了自信。他認為《文心雕龍》有關文學藝術的種種問題，都已周密而全麵地作了論述，隻要有高明的鑒賞家的評論，就不可能不被世人所接受。
當時名望最高的，當然是“一代詞宗”沈約。但沈約地位高，架子大，劉勰還沒有資格去拜訪。於是，他背上書稿，裝作小販等候在沈約的車子經常經過的路上，上前攔住沈約的車駕獻書。沈約是一個門第觀念很強的人，他瞧不起劉勰這種無名之輩。不過，在他讀過劉勰的《文心雕龍》後，深感意外，不僅認為此書“深得文理”，還“常陳諸幾案”，以便自己隨時翻閱。
由於沈約的重視和讚譽，不但《文心雕龍》廣為世人所知，而且年近40的劉勰開始踏上仕途。先是當奉朝請，即奉朝會請召而已。後來調往太末（今浙江龍遊）令。50歲時又做了昭明太子蕭統的通事舍人管理奏章，很受蕭統器重。僧佑去世後，生前搜集的經卷急待整理，劉勰回定林寺作整理工作。經過20多年的官場生涯，他這時有若大夢初醒，悟得宦海無邊回頭是岸的真諦。因此，在完成整理佛經任務之後，便請求棄官為僧，法名慧地。出家後不到一年，劉勰就離開了人世。
劉勰在文學史上有其重要地位，主要是他為我們留下了一部3.7萬多字的《文心雕龍》。
《文心雕龍》共50篇，包括總論5篇，文體論20篇，創作論19篇，批評論5篇，最後一篇《序誌》是總結全書的自序。《文心雕龍》對於文學理論的主要貢獻有以下幾個方麵：
第一，在文學理論上，集前人之大成，並建立了完整的理論體係。
第二，從文學的內在規律上，探索了當時文學發展的正確道路。強調作文要情文並茂，講述道理。
第三，對文學藝術特征的把握，較前人有了顯著的提高。
首先，他強調藝術構思，要求在作文之前。把藝術形象在腦海中定位好，另一方麵是形象思維，即“神與物遊”，要求登山“則情滿於山”，想到觀海“則意溢於海”，使精神活動與物象相結合。
再次，就是要“體物寫誌”。也就是古人常說的“寓情於景”、“借物遣懷”等。文學創作雖以抒情言誌為目的，但它又不是直陳其情，徑達其誌，而必須通過一定的藝術形象來表現。形象性是文學藝術的另一重要特點。劉勰能認識到文學藝術的這些特點，已是相當可貴的。
第四，對我國古代現實主義文學理論的發展，作出了重要貢獻。
劉勰提出，作者的任務是要“寫天地之光輝，曉生民之耳目”。就是說，反映真實的生活，是作文的首要任務。