北京市檔案館成立之初，館址設在北京市和平門內西鬆樹胡同21號。在1965～1969年間，由於戰備需要，市檔案館先後將重要、機密檔案運至門頭溝區和房山區後庫集中保管。1967年末1968年初，市檔案館全部檔案運到北京市教育行政幹校集中管理。1970年底，市檔案館全部檔案由北京市教育行政幹校搬遷到建國門內貢院西街8號集中管理。
在市委、市政府的關懷下，1995年10月，在豐台區蒲黃榆路42號建成一座具有民族風格、符合現代化管理要求的檔案館，檔案館共投資7000萬元，占地麵積8667平方米，主樓地上15層，裙樓3層，地下2層。總建築麵積2萬平方米，其中，檔案庫房建築麵積達9000平方米，其餘為技術和辦公用房。庫房設有外廊，全密閉式，裝有自動消防、自動報警、自動監測和溫濕度自動控製係統，館內設有寬敞明亮的閱覽大廳和檔案陳列室、展覽室，實行計算機網絡化管理。1995年10月27～31日，北京市檔案館館藏檔案從建國門內貢院西街8號及其散存地搬遷至蒲黃榆42號。1995年底檔案館投入使用，1996年4月24日舉行開館典禮。
進入21世紀，隨著檔案事業的發展，市檔案館庫房使用麵積已經基本飽和，公共服務、社會教育及業務技術用房緊缺，功能缺失，設施落後，嚴重製約了檔案館功能的發揮，與國家檔案局對檔案館提出的“五位一體”功能要求不相適應。2008年6月30日，市檔案局與市國土資源局、市規劃委員會聯合向市政府報送《關於我市檔案館（庫）選址問題的請示》，提出北京市檔案館與市城建檔案館、市國土局檔案館等相關單位集約建設市檔案館新館的建設模式。2010年10月25日，市檔案局向市發展改革委員會報送《北京市檔案館新館建設工程項目建設書》和《關於北京市檔案館新建設工程項目申請立項的函》。2011年6月29日，市發改委同意北京市檔案局館實施北京市檔案館新館建設工程。新館建設地點：東三環外南磨房路；建設規模：總用地麵積5.18公頃，其中建設用地麵積約3.36公頃，總建築麵積11.5萬平方米。2012年5月17日，北京市檔案館舉行新館奠基儀式，該項工程正在建設中。
二、館藏檔案綜述
北京市檔案館館藏檔案內容豐富，涉及廣泛，曆史跨度400餘年，其中不乏珍貴史料。主要包括明清檔案、民國時期北平地區檔案、革命曆史檔案和新中國成立後北京市級黨政機關、企事業單位、群眾團體和社會組織形成的檔案。經過50餘年的積累，市檔案館已經初步建立了內容豐富、結構合理的館藏體係。截至2012年底，共有館藏檔案633個全宗2264995卷冊，排架長度17公裏，聲像檔案32711盤，電子檔案20600盤。館藏紙質檔案數量在全國省級檔案館中排第三位。在館藏中，中華人民共和國成立前檔案232個全宗979169卷冊，其中清代檔案4631卷冊，革命曆史檔案4720卷冊；中華人民共和國成立後檔案383個全宗1279361卷。征集檔案18個全宗19141卷冊。
館藏檔案中年代最早的是明朝嘉靖十二年（1533年）明朝皇帝給李舜臣及妻子的封誥（誥命）。清代檔案中，形成於1678年的《剿撫澎台機宜》和為紀念京張鐵路通車拍攝於宣統元年（1909年）的《京張路工撮影》入選中國檔案文獻遺產名錄。比較珍貴的還有：康熙、乾隆、宣統年間的部分奏折、誥命，清代土地、房屋買賣契約、執照、清冊，有關外國傳教士在中國傳教的諭旨、照會、告示；順治、道光、光緒年間有關嚴禁商民船隻私自進行糧食貨物貿易的諭旨，征稅、清查戶口的告示，以及建於1906年、1908年對外開放的清末農事試驗場照片等。
館藏民國時期北平地區檔案近98萬卷冊，1949年北平的和平解放，使自辛亥革命以來曆屆地方政權檔案比較完好地保存下來，真實記錄了民國以來北京（平）發展演變和社會變遷的全貌，是研究20世紀北京（平）及中國近代城市發展史不可缺少的曆史珍寶，形成北京市檔案館的館藏特色。比較珍貴的有：在北京（平）發生的曆次重大曆史事件和革命運動，如五四運動、三一八慘案、一二九運動、反饑餓反內戰運動的檔案記載；民國以來曆屆舊政權機關、黨派團體、公私立學校、企事業單位形成的檔案數量眾多，京都市政公所和京師警察廳的檔案較為詳盡；抗戰檔案記錄了七七盧溝橋事變二十九軍抗擊日寇侵略、北平民眾的抗日鬥爭，以及民國政府調查日軍罪行及審判華北漢奸王揖唐、王克敏、金璧輝（即川島芳子）等史實；有關北平市市花的確定、都市建設計劃、改良舊式四合院、首屆集體（集團）婚禮、城內排水明溝修建、街巷道路等級名稱的確定等檔案反映了北京（平）城市發展軌跡；記載經濟活動的檔案材料也比較豐富，有開辦最早的門頭溝煤礦、石景山鋼鐵廠、冀北電力公司北京分公司、北京公共汽車股份有限公司、電車股份有限公司、自來水公司以及銀行、錢莊、商號等材料；有關北京（平）的文化教育、社會管理、民風習俗、名勝古跡等內容在檔案中有不少反映。
革命曆史檔案記載了中共北京（平）地下黨領導北京及周邊地區的工人、學生和各界群眾進行革命鬥爭的曆史，有中國共產黨的創始人陳獨秀、李大釗等革命先驅在北京從事革命活動的檔案。在具有全國重大政治和曆史意義的北平和平解放過程中，形成許多係統、完整的珍貴檔案，有中央同意平津市委、軍管會、市政府人選的批複，彭真同誌的請示報告及中央、華北局的批示；我方與傅作義方麵三次談判記錄，《關於北平和平解決問題協議書》；和平談判後就接管問題雙方聯合辦公紀要；市委關於接管工作給中央的電報，平津前線司令部宣布改編平郊原國民黨軍方案；北平市軍事管製委員會和北平市人民政府成立以及接管北平市的布告；劉仁在城工部工作日記本等。