當老百姓得知關帝廟中神像是皇帝禦賜後，更加崇拜至誠。每個朔望，香火極盛，求福求壽者，求子嗣者，求功名者，絡繹不絕。
後來，明朝在正陽門城樓甕城之內的東側，又增建了一座黃瓦履頂的名叫“觀音大士廟”的小廟。從此，正陽門內就有了左右相稱的兩座小廟。而這兩座小廟黃頂白碑，樹木參差，灰牆環繞，就像兩個衛兵，護衛著高大巍峨的正陽門城樓。
據史料記載，觀音大士廟是崇禎皇帝敕建，建成後的觀音大士廟占地一畝餘，佛殿及住房13間。廟內有佛像19尊，有碑4通，石刻2件。
直至清朝定都北京後，清代又才對明末被毀或受損的宮殿、城門和祠廟等建築，全力進行了重建與恢複。有史料記載，修繕後的：“關帝廟占地一畝餘，神像十四尊，畫像一幀，神馬一匹，青龍刀三柄，有碑十一座，刻十塊”。其中，“大刀”、“關帝畫像”和“白玉石馬”被稱為關帝廟“三寶”。
據說，清代皇帝從天壇祭天回宮時必在廟內拈香，其名望可見一斑。關帝廟不但皇家供奉，百姓燒香，就連京城五金行的買賣人也趨之若鶩。
相傳，關帝廟內供奉的3口大刀，均係清嘉慶年間陝西綏德城守營都司，在前門外打磨廠三元刀鋪定製的真刀，最大的一口刀長兩丈，重200千克，其餘兩口刀，一口重60千克，一口重40千克。
每年農曆5月13，也稱“關雲長單刀赴會日”，關帝廟舉行“磨刀典禮”一次。屆時，廟內都會將3口大刀抬出，由三元刀鋪派工匠將刀磨光，再放回原處。
而此時，到關帝廟參加磨刀觀禮的京城百姓們，從四麵八方紛紛趕來，關帝廟前人山人海，水泄不通，熱鬧非凡。除此以外，關帝廟之所以香火旺盛，被世人推崇，是因為“關帝簽”十分“靈驗”。
傳說，有一個侍郎李若農，參加鹹豐已未科會試時，曾在考前來正陽門關帝廟求簽。他求得的簽語是“名在孫山外”。李若農看後很是失望，以為會名落孫山。沒想到發榜時，他竟高中進士。
李若農逢人便說，此簽實不靈驗。等到殿試發榜，狀元為孫家鼎，榜眼名孫念祖，李若農得了個探花，實列二孫之後，與簽語相合。因此，李若農歎服不已。從此，正陽門關帝廟的“關帝簽”有天下第一“靈簽”的消息也不脛而走。
當時，民間流傳“靈簽第一推關帝，更向前門洞裏求”，甚至也會有皇帝親臨燒香敬奉。每當關帝廟開廟時，廟裏廟外，便坐滿了道士，他們手抱簽筒，接待求簽香客，求財祈福者蜂擁而至。
根據清史《清實錄》記載，光緒皇帝去關帝廟和觀音廟參拜燒香的次數多達64次，遠遠超越了光緒以前所有皇帝去正陽門廟宇參拜次數的總和。光緒皇帝從1887年起，到他1908年去世為止，他幾乎每年數次前往正陽門的廟宇參拜，其時間跨度長達22年。