“公文”一詞，根據現有的文獻資料，最遲產生於漢代。漢魏時期人們所說的公文雖然與現代公文並不完全是一回事，但二者之間的淵源關係卻是天然存在、不可否認的。在階級社會，公文的確是階級統治和國家管理的重要工具，然而公文的產生，卻與階級的出現和國家的產生並無必然的聯係。公文是人類社會發展到一定階段的產物，這個一定階段主要有兩大標誌，一個是公共事務的出現，一個是文字的產生。在我國，公文大概產生於五帝時期的早期。《尚書》中的《堯典》，是後人記錄的五帝時期的堯帝命手下的史官撰寫的一篇公文，是現存最早的一篇公文。
縱向考察我國公文的演變曆程，大致可以劃分這樣幾個曆史階段：
1.先秦時期的公文
具體說就是在進入奴隸社會的夏商周時期，公文有了長足的發展，這具體表現在：其一，公文的載體增多，並朝著方便實用的方向發展，由刻在烏龜的硬殼（甲）、牛的肩胛骨以及獸骨上的甲骨文，到以各種青銅器作為公文的載體，後又發展到寫在竹片上（叫簡策〔冊〕）或寫在木板上（叫版牘）。其二，公文的文種增多，質量顯著提高。商周時期的公文文種，主要有誥、命、誓三種，到春秋戰國時期，則出現了檄文、移書、璽書、盟書、上書等文種。商周時期的公文，結構相對簡單，內容相對單薄，而春秋戰國時期的公文，結構明顯複雜，內容明顯充實，並且文字流暢，富有條理，標誌著古代公文撰擬達到了一個新境界。其三，公文的管理逐步走向規範。
2.秦漢至隋唐時期的公文
秦代時對公文進行了改革，重新規定了公文的種類，明確了各自的使用者和適用範圍，初步規範了行文格式，正式確立了用印製度。
漢代的公文，在文種、格式、遞送等方麵較之秦代又有明顯的發展。
先說文種。據東漢蔡邕編寫的《獨斷》一書記載，漢代明確規定：“漢天子……其命令，一曰策書，二曰製書，三曰詔書，四曰戒書。”“凡群臣上書於天子者有四名，一曰章，二曰奏，三曰表，四曰駁議。”其實，漢代的公文文種並不僅限於以上幾種，諭、敕、書、疏、封事等也是這一時期使用過甚至是使用較多的幾個公文文種。
在格式方麵，漢代公文的“抬頭”、用印製度已經固定下來。此外，伴隨著公文文種的增多及其適用範圍的日益明確，各文種中表示尊卑的用語也更加豐富，比如章的開頭要寫“稽首上書”，奏的結尾要寫“稽首以聞”，表的文首要寫“臣某言”、文末要寫“臣某，誠惶誠恐，稽首頓首，死罪死罪”，等等。這類套話在整個封建社會中是代代相傳、長期沿用的。
魏晉南北朝時期的公文，最值得注意的有兩個方麵：一是公文處理實踐上向著更加方便實用的方向發展，二是公文寫作理論的初步形成。成書於公元5世紀初的《文心雕龍》是南北朝時期的著名文學批評家劉勰的不朽之作。該書對包括詔、策、章、表、奏、啟、議、移、書、記等十幾個公文文種在內的共計35種文體，就其由來、沿革、作用、寫作要領等做了非常精辟的論述。盡管曆史已經過去了1500年，但《文心雕龍》的價值依然沒有絲毫的減損，它對於今人仍然有著重要的借鑒意義。
隋唐時期的公文，最值得注意的是明確提出了下行文、上行文、平行文的公文類別。應該說，公文普遍被稱為“公文”是在三國以後，而且與“文書”、“文案”通用。
3.兩宋明清時期的公文
兩宋時期的公文，屬於皇帝製發的下行文主要有冊、製、敕、誥命、詔書、禦劄等，屬於群臣製發的上行文則主要有狀、書、表、封事、答子、笏記等，平行文有關、移、刺、谘等。在公文管理方麵，兩宋在唐朝的基礎上，進一步做了若幹具體的規定，使公文管理的規範化程度達到了前所未有的新高度。這些規定主要是：其一，一文一事。其二，引黃貼黃。所謂引黃，就是將公文的主要內容及日期寫於封皮或者公文的正文之前。所謂貼黃，就是公文本是用黃紙書寫，假如需要修改，就要用黃紙將待改之處貼上，然後再重新書寫。引黃貼黃的規定，對於保持文麵整潔、方便對公文內容的整體把握，具有重要意義。其三，封裝編號。其四，收發登記。