1908年3月，科茲洛夫一行抵達蒙古巴登劄薩克王爺駐紮地，即將進入荒漠。這一次，科茲洛夫吸取了前人的教訓，努力與當地老百姓，特別是與代表清政府管轄這一地區的王爺搞好關係，對巴登劄薩克王爺和土爾扈特達希貝勒等盛情宴請，代為請封，並贈送了左輪手槍、步槍、留聲機等禮品，終於攻破了曾經守護了多年的防線，得到了王爺所遣的向導指引，第一次到了朝思暮想的黑水城。
他們在黑水城逗留了13天(1908年4月1日~4月13日)，“挖呀，刨呀，打碎呀，折斷呀，都幹了。”然而，“探察和發掘基本上未按考古學要求進行”，“對發掘品未作嚴格記錄”。最後，他們將所獲的佛像、法器、書籍、簿冊、錢幣、首飾等裝了10箱，共重約160公斤，通過蒙古郵驛，經庫倫(今烏蘭巴托)運往彼得堡。
客觀地講，科茲洛夫的首次盜掘所獲並不算豐富，對他個人來說，更重要的是找到了黑水城遺址，雖然當時他不可能意識到這一點，也許他是失望而去的。首次盜掘物運抵彼得堡後，俄國地理學會很快就作出了鑒定反饋，因為其中有以西夏文這種早已消失、無人能識的死文字刊行或抄寫的書籍和簿冊，引起了敏銳的俄國漢學家鄂登堡、伊凡閣等人的驚訝和重視。1908年12月，科茲洛夫收到了沙俄皇家地理學會要求他放棄前往四川的計劃，立即重返黑水城，“不惜人力、物力和時間從事進一步發掘”的命令。
1909年5月底，科茲洛夫一行再抵黑水城，在與考察隊保持著“愉快的關係”的土爾扈特貝勒的幫助下，雇用當地民工，由俄人指揮，在城內城外各處重新勘探發掘。
起初並沒有驚人的發現，科茲洛夫本人則不僅“未正規參加發掘”，“甚至連很有意義的發現物也不曾登記在城市平麵圖上”。如果體會他5月27日日記中的話--“時間是五點鍾，已感到天地炎熱，不禁想到在淒涼、死寂的黑水城我們將如何工作”--可以感到他對這次重返發掘並非一開始就充滿信心。
然而，奇跡出現了。6月12日，他們打開了西城外一座高約10米，底層麵積約12平方米的“著名佛塔”，呈現在眼前的竟是層層疊疊的多達2萬4千卷古代藏書和大批簿冊、經卷、佛畫、塑像等等，無怪乎後來俄國人聲稱簡直找到了一個中世紀的圖書館、博物館!他們在因此次發掘後聞名遐邇的佛塔內整整工作了9天(1909年6月12日~6月20日)，取出文獻和藝術品運往營地，粗粗分類打包後，以40峰駱駝裝載數千卷舉世罕見的文獻與500多件精美絕倫的藝術品踏上了西去的歸途。極具諷刺意義的是持“友好態度”的土爾扈特貝勒帶著自己的兒子及全體屬官，騎著高頭大馬來為他們送行!
今天我們已經知道，這2萬多卷中國中古時期的珍藏，是繼殷墟甲骨、敦煌文書之後，又一次國學資料的重大發現。如果說15萬片甲骨文字的發現，把中國有文字記載的曆史提前到了3000多年前的殷商時代，敦煌數萬卷遺書重現了從西晉到宋初傳抄時代卷軸裝書籍多姿多彩的風貌，那麼黑水城出土文獻則在時間上延續了敦煌文獻，展示了遼、宋、夏、金、元，特別是西夏時期的文化資源。它們中絕大部分是西夏文文獻，內容包括語言文字、曆史、法律、社會文學、古籍譯文以及佛教經典等;其餘則為漢文文獻，有直接從宋、金傳入西夏的書籍，有西夏刻印抄寫的書籍，還有不少宋、西夏、元時期關於官府、軍隊、百姓的檔案、文書;此外還有一些藏文、回鶻文、波斯文等其他民族的文字資料。黑水城出土文獻具有極高的文獻價值和版本價值，然而從它們再現於世的第一天，便淪為外國探險家的囊中之物。