王國維於1877年12月3日（清朝光緒三年十月二十九日）生於浙江海寧州城（今海寧市鹽官鎮）雙仁巷。浙江山川秀麗，人文薈萃，他自小受家鄉人文氛圍的影響。海寧王氏家族，世代書香，王國維自幼受家學影響，耳濡目染傳統文化。王國維的父親王乃譽，是縣衙的一名幕僚，王乃譽的兼祧父親去世後，他便以“丁憂”為名，辭去幕僚一職，回家專心“以課子自娛”，把全部的精力傾注於王國維身上，盼望他有朝一日能金榜題名，光耀門庭。王國維孩提之時，羸弱多病，四歲喪母，養成孤僻內向的性格，對人間苦痛特別敏感。自七歲發蒙，去私塾攻讀八股程式，師從潘紫貴及陳壽田先生。他聰明好學，所讀之書在短時間內輒能閉目成誦。
十來歲，他充分利用課餘時間去搜覓雜書，泛覽不倦。並在父親王乃譽的指導下博覽傳統典籍，涉獵傳統文化的許多領域，還初步接觸到近代先進的科學文化知識和維新思想。十五歲第一次參加科舉考試，勤學不輟的王國維不負眾望，歲試便奪得海寧州第二十一名，然後州試入學，成為海寧州的州學生員。其後，他分別在1892年、1893年兩次赴杭州參加科考，均名落孫山。科考失利的打擊，社會思潮又促使人心變化，不沾沾於章句之學，王國維的讀書興趣就逐漸轉向文史考據，他在閱讀《史記》、《漢書》、《後漢書》、《三國誌》“前四史”的過程中，耽於訓詁、校勘、注釋所營造的文化天地，吮吸文史英華，開始了他的自學生涯，逐步發現一個時文之外的嶄新世界。
1894年正月他考進杭州的崇文書院，這種書院的設置是在清朝科舉製度下而出現的一種變通之法。凡府試未能通過者，如果考進官設書院並就讀肄業，便可免去府試和院試而直接參加鄉試。按照王乃譽的最初設想，進書院赴鄉試，無疑是一條無可奈何的終南捷徑。1894年是個多事之秋，甲午中日戰爭爆發，一個有著幾千年文明成就的泱泱大國敗於一蕞爾小國，戰敗的無奈事實促使國人去反省文化傳統，各種新思潮如潮水般地湧入。同時，維新變法運動日益高漲，驚醒酣睡既久的國人的迷夢。
中日海戰讓王國維失去了一次鄉試的機會，卻讓他知道了世上還有一門名叫“新學”的學問。而後康、梁等人在北京創辦《中外紀聞》，宣揚變法思想，組織強學會，並建立新式學堂來培養新學人才。一時間“家家言實務，人人談新學”，進學堂和出國留學成了時代潮流。原本對科舉不感興趣的王國維為此興奮不已，一心希望能有機會到外麵看看世界。1896年底，及冠之年的王國維遵從父命，與同邑商戶莫寅生之女結婚，婚後自得承擔家庭的責任。於是，王國維一麵在同鄉陳汝楨家充任私塾先生，一麵又繼續在父親的督責下攻讀八股，準備參加來年的鄉試。1897年崇文書院肄業，王國維有資格參加鄉試，孰料在千軍萬馬過獨木橋的鄉試場上再次折戟，於是他絕意科舉，真正踏上自學的道路。
舍棄科舉，對於王國維而言，如同扔掉了一個沉重的包袱，讀書愈發努力，凡三代兩漢之書，均盡心搜覓攻讀。十八歲那年，出自對考據學的酷愛，王國維少年意氣，“條駁”當時的經學大師俞樾的《群經平議》。不迷信權威、敢於挑戰學界泰鬥，奠定了他日後學術生涯的獨立創造精神。王國維在1896年讀到《時務報》1-4冊，為之深深吸引，其中有關開辦學校、廢除科舉等變法主張，為王國維心靈吹進一股新鮮的空氣。
1898年，王國維的友人許家惺，斯時供職於上海的《時務報》，因事離職，便向《時務報》推薦王國維去接替他的職位。懷著對外來文化的美好憧憬，王國維在1898年春節踏進時為全國大都市的上海，切身感受外麵的世界。王國維棲身於維新派所創辦的時務報館，在汪康年兄弟門下從事校對和書記工作，短短幾個月時間，王國維閱讀了梁啟超的《讀西學書法》、嚴複翻譯的《天演論》諸書，如饑似渴地接受新思想、新文化。每天埋首於時務報館繁重的工作，性格孤僻的王國維，很少與人交往，但那時他結交了康門弟子、時為報館主要撰稿人的歐榘甲，王國維尊其為師，歐氏舊學根底深厚，鼓吹變法圖強思想，其學識和人品均給王國維以積極影響。
王國維供職於時務報館的最大收獲，是結識了影響他後半輩子的羅振玉。羅振玉長王國維十一歲，羅氏自小研習經史、考證之學，又好金石文字。幾乎與王國維一樣，在二十歲，就絕意科舉進身之念。王、羅結交，緣於王國維就讀東文學社，結交羅振玉，是他學業和人生的重大轉折點。東文學社是晚清較早的日語專科學校，東文學社學製三年，是羅振玉農業興國思想的具體實踐。羅振玉旨在創辦學農社的基礎上，進一步擴大影響，培養自己的翻譯隊伍。維新變法失敗以後，《時務報》遭查封，汪氏兄弟雖改辦《昌言報》，卻因銷路不佳而不得不停業，王國維因此失去工作，生活成了問題。在進退無策之際，羅振玉慧眼識才發現了王國維，一次偶然機會，羅振玉看見王國維為同學題的扇麵詩，歎賞其中“千秋壯觀君知否？黑海東頭望大秦”之句的豪氣和意境，便有意提攜。有了羅振玉的幫助，王國維不僅暫時脫離了經濟困境，還獲得了一個施展才華的舞台。