考證作為一門學問，萌芽於先秦，起步於漢唐，發展於兩宋，自衰於元明，大盛於清。到了近現代，又有了新的發展。
《孟子?盡心下》載孟子的話說：”盡信《書》，則不如無《書》。吾於《武成》取二三策而已矣。仁人無敵於天下，以至仁伐至不仁，而何其血之流杵也。”這是孟子對《尚書?武成篇》說周武王伐商紂”血之流杵”的懷疑。韓非在《裏學篇》中，則進而舉例說：”孔子、墨子俱道堯舜，而取舍不同，皆自謂真堯舜，堯舜不複生，將誰使定儒，墨之誠乎……無參驗而必之者，愚也；弗能必而據之者，誣也。故明據先王，必定堯舜者，非愚則誣也。”這雖然還不能說是具體的考證，但他在懷疑古書古說的基礎上，已提出了考證的必要性。他強調言之有據，實事求是，反對主觀臆斷。這說明，考證在先秦已經萌芽了。
到了漢唐時期，考證開始出現在學者們的著作中。其主要集中在史著、簿錄、經史傳注，以及考史專著等方麵。史著的考證，是從司馬遷開始的，他編著《史記》時，”網羅天下放失舊聞，略考其行事，綜其始終，稽其成敗興壞之紀，上計軒轅，下至於茲，為十表、本紀十二、書八章、世家三十、列傳七十，凡百三十篇，亦欲以究天人之際，通古今之變，成一家之言”(見司馬遷《報任安書》)。不難看出，他對自己所見的文獻資料，是經過一番考證，才決定取舍的。如，當時諸子雜記中記載說：堯讓位於許由，許由不受。司馬遷以《尚書》不載和孔子舉讓國聖賢沒有提到許由為依據，在《史記》中刪去許由，直書堯讓位於舜，便是一種考證。《史記》之後，史學名著《漢書》、《後漢書》、《三國誌》等，也都做了許多考證工作；簿錄的考證，由西漢劉向開其先河，他在校理群書時，每校完一書，都要寫一篇敘錄奏上，敘錄中結合辨偽，就有對原書的作者及其內容的考證。以後劉歆將劉向的校書成果集結為《七略》，班固又據《七略》撰成《漢書?藝文誌》。這兩種書也都有考證的內容，如《漢書．藝文誌》中說：”《論語》者，孔子應弟子、時人及弟子相與言而接聞於夫子之語也，當時弟子各有所記，夫子既卒，門人相與輯而論纂，故謂之《論語》。”這便是對《論語》編纂所作的考證；經史傳注的考證，從兩漢到隋唐，學者們治學多注重名物訓詁，他們為經史作注，如東漢鄭玄對群經的箋注，南朝宋裴鬆之對《三國誌》的補注，唐孔穎達、賈公彥等人的《五經正義》，顏師古的《漢書注》等，都包含了極多的考證內容；考史專著，在魏晉南北朝時已經出現，他們是專對一些古史內容進行考證，糾謬補闕的。如魏晉之際，譙周憑據舊典專糾《史記》謬誤《帝王世紀》等，都是這方麵的專著。
除此之外，這時人們已開始注意利用地下的出土文獻來考證古書內容的是非了。如《太平禦覽》引《皇覽塚墓記》中說：”漢明帝時，公卿大夫諸儒八十餘人，論五經誤失。符節令宋元上言：秦昭王與呂不韋好書，皆以書葬。王至尊、不韋久貴，家皆以黃腸題湊。地處高燥未壞。臣願發昭王、不韋家，視未燒詩書。”這雖隻是建議，未予實施，但西晉初年《汲塚竹書》出土後，當時一些學者用以考證現存典籍已是事實。如《晉書?束皙傳》說：《汲塚書》”蓋魏國之史書，大略與《春秋》皆多相應。其中經傳大異，則雲：夏年多殷；益幹啟位，啟殺之；大甲殺伊尹；文丁殺季曆；自周受命，至穆王百年，非穆王壽百歲也；厲王既亡，有共伯和者攝行天子事，非二相共和也。”這都是依據《汲塚竹書》考證現存經傳得出的結論。不過，總的來說，考證之於漢唐還隻是起步，並未成為一門學問。
兩宋是考證的發展時期，其時考證內容極其豐富，考證的方法多種多樣，既有綜合的考證，又有具體的考證；具體的考證中，既有專題的考證，又有雜記的考證。另外還有金石的考證。這些考證有分有合，互相補充，出現了一係列的考證專著。
綜合考證，是對某一時代文獻群或曆代著錄典籍係統的考證，專著如南宋末年王應麟的《漢書藝文誌考證》，宋末元初馬端臨的《文獻通專?經籍考》，專著如北宋司馬光的《資治通鑒考異》；專題考證，是對專題項目進行具體考證，是對文獻記載內容的考證。專著如北宋吳曾的《新唐書糾謬》與《五代史纂誤》；雜記考證，是像讀書劄記那樣的考證，專著如北宋沈括的《夢溪筆談》，南宋洪邁的《容齋隨筆》，王應麟的《困學紀聞》；金石考證，是利用金石簡牘等出．±文獻對曆史的考證，專著如北宋劉敞引用先秦彝銘考知三代製度的《先秦古器記》，繼之，歐陽修的《集古錄》，趙明誠的《金石錄》，洪邁的《隸釋》也都是這方成的成功之作。 這一時期，南宋的洪邁和王應麟是代表人物，他們博洽多聞，涉及麵廣，凡經史、文學、天文、地理等方麵，無不廣加考證。洪邁積40年的讀書劄記寫成《容齋隨筆》，書中很大一部分內容是對史書誤載的訂正，其運用材料非常廣泛，以詩文證史，以碑石文字注吏，以手寫本訂正流行本，凡所訂正，都十分精當。如，《舊唐書》載青大將李宓伐南詔，為南詔所所擒，《新唐書》載李宓死於南詔，《資冶通鑒》因《舊唐書》之說。洪邁根據李宓同時人高適的《李宓征蠻詩》序文及詩的記載，訂正說李宓並未敗死南詔，是活著回到長安的，就很有說服力。王應麟的代表作《困學紀聞》，在文獻學上建樹頗多，其中的考史六卷，是對《史記》等正史及編年史等書進行廣泛號證的，其糾謬、辨證多在廣泛收集資料的基礎上進行。如《史記?瞻世家》載：”三十六年，惠王卒。”《困學紀聞》根據《竹書紀年》等書的記載考證說：”《左傳後序》日：古書紀年篇，魏惠王三十六年改元，從一年始至十六年，而稱惠成王卒。即惠王也。疑《史記》誤分惠成之世以為後王年也。朱文公日：惠襄哀之年，見於竹書明甚。《史記》蓋失其實。”這論斷是很正確的。