淮西被平定之後，朝廷揚威，藩鎮喪膽，紛紛表示歸順朝廷。唐憲宗的“中興”之業如日中天。於是“群臣請刻石紀功，明示天下，為將來法式”。憲宗當然很樂意，就把這個光榮的任務交給了韓愈。韓愈是淮西之役的親身經曆者和功臣，更是公認的古文大家，由他來撰寫碑文，當然是眾望所歸。韓愈接到詔命，倍感榮耀，同時也深感責任重大，因為要把此碑寫成“為將來法式”，實非易事。他“經旬涉月，不敢措手”。經過七十多天的認真撰寫，《平淮西碑》方才脫稿。韓愈將碑文進呈憲宗，憲宗很高興，命人將碑文抄錄若幹份，分賜平淮西的功臣，又將原樹於蔡州紫極宮內的《吳少誠德政碑》的碑文磨去，刻上韓愈的碑文。
《平淮西碑》分為序和銘兩大部分：序用散文，銘用韻文。序文大體分五部分：第一部分以頌大唐功德領起全文，義正詞嚴，凜然不可侵犯；第二部分敘寫憲宗即位之初的平蜀之功和決心討伐不臣之蔡；第三部分敘寫憲宗伐蔡的具體部署，全用皇帝詔言，以突出憲宗伐蔡之果斷和所起的主導作用；第四部分敘寫平蔡的經過，分敘各個戰場上主將們的戰功，突出裴度臨師指揮，諸將合力的效果，並詳述李愬雪夜奇襲蔡州的過程，裴度懷柔蔡人的政策及善後工作；第五部分寫皇帝行賞。銘文內容與序文大同，隻是文風有別：序文樸質簡要，銘文酣暢飛動。前人說《平淮西碑》序文似《尚書》，銘文如《詩經》。此說誠然不錯。
但令人意想不到的是，《平淮西碑》刻成不久，就相繼發生了李愬之妻訴碑文不實和所謂石孝忠砸碑事件。李愬之妻是唐安公主之女，而唐安公主是德宗之女，所以李愬之妻可以出入禁中，從中挑唆其事，而所謂韓碑“不實”之論，說到底就是一點：平定淮西，是裴度功勞第一，還是李愬的功勞第一。李愬妻之所以鬧，就是要爭這個第一。實際上，淮西之役的最高決策者雖是唐憲宗，但一貫主戰的裴度親臨前線督戰，對戰爭勝利起到了決定性的作用。李愬襲蔡擒吳元濟固然是平蔡的關鍵一役，但也有各路軍隊的牽製和協助之功。硬說李愬為首功，確實與事實有出入。況且韓愈的碑文中詳寫了李愬入蔡經過，也詳述了憲宗對裴度和李愬的封賞：賜裴度“勳上柱國，封晉國公，食邑三千戶”；賜李愬“勳上柱國，封涼國公，食邑三千戶”，二人旗鼓相當。可見朝廷的公議，未分他們誰為第一，誰為第二，而韓文中對此並未置一詞。客觀地說，韓愈碑文並無偏袒裴度、貶低李愬的問題，所謂“不實”之說，不過是李愬之妻借皇親國戚之便演出的一場鬧劇，鬧的核心就是為李愬爭“首功”的名分。
至於石孝忠推倒韓碑之事，詳見於晚唐羅隱的《說石烈士》一文，文中雖詳述推碑經過，但不足憑信之處頗多，類似小說家言；然早於羅隱的李商隱，在其《韓碑》一詩中也說：“句奇語重喻者少，讒之天子言其私。長繩百尺拽倒碑，粗沙大石相磨治。”可見，韓碑被推倒磨光確係事實。
李愬之妻“讒之天子言其私”，唐憲宗或出於對“官二代”的私情，或出於對石孝忠一類驕橫武夫的怯懼，於是降詔磨去韓文，命翰林學士段文昌另行撰寫。其實段文昌所撰碑文，內容與韓碑也大體相同，也沒有敢說李愬居功第一，隻不過段文所用為當時流行的駢體文。
韓愈《平淮西碑》被推到磨平，另命段文昌再撰，確是中唐時期的一件文字大案。韓愈受命撰《平淮西碑》，給他帶來前所未有的榮耀，但結果卻使他蒙受了極大的恥辱，他當時的抑鬱沮喪之情不難想見。但是，是金子總會發光。韓碑雖被磨，但碑文還在。韓愈和段文昌二人所撰碑文孰優孰劣，後世見仁見智，但總的來說，是揚韓抑段者居多，如李商隱《韓碑》一詩就高度讚美韓碑：“公之斯文若元氣，先時已入人肝脾。”而評韓碑影響最大者，莫過於蘇東坡的一首詩：“淮西功德冠吾唐，吏部文章日月光。千載斷碑人膾炙，不知世有段文昌。”
韓愈《平淮西碑》這樁公案恐怕是永無結案之日了，但在人們心目中，此案早有結論。曆史是公正的，人心是公正的。韓愈雖不免蒙恥於當時，但卻榮耀於萬世。