所羅門王利用逐漸積累起來的國力，進行了廣泛的建築活動。這些建築著稱於世。在他統治時期耶路撒冷和許多在商業方麵或戰略方麵具有重要意義的城市，都成了堅固設防的據點。他還在新開辟的疆土上，修建擴建了許多城池，安置以色列移民。在首都耶路撒冷，他修建了豪華的宮殿，曆時13年才完成。特別浩大的工程是修建上帝耶和華的神廟即聖殿。為進行這些大型的工程項目，征發了十幾萬民工，其中許多是居住在以色列的外邦人。所羅門還請推羅國王派能工巧匠來幫忙，向以色列提供香柏木、鬆木和石料等建築材料。另外，還挑選了3萬人輪流服勞役，每人一年服役4個月。整個工程，曆時7年，耗費了大量資金和材料。
所羅門為耶和華建造的聖殿，長60肘（兩肘約合1米）寬20肘，殿前的廊長20肘，高120肘。殿牆用石料砌成，再用香柏木遮蔽。聖殿修建在摩利亞山上，山下有一條石階路直通聖殿大門。殿中央有一座祭壇，點著長明燈；壇旁有一口由12頭銅牛馱著的巨大的銅缸，各有三頭銅牛麵向東南西北四方。殿內分門廳主廳和聖堂，聖堂裏供著神秘的約櫃。聖堂四壁貼金，還用寶石裝飾。門也貼金，門上還繪有飛天女使。帷幔繡有天使、花卉和橄欖枝。約櫃兩旁放著刻有摩西五經的石板和展翅欲飛的木雕天使。所羅門還為聖殿鑄造了巨大的銅柱、銅盆、銅座子，製作了精美的金燈台、金碗等，這些東西都放置在聖殿裏，或用在聖殿建築上。
聖殿落成後，舉行了隆重的祭奠儀式，用了上萬頭牛羊。所羅門做了祈禱，道出了他建殿的理由。他說：“上帝啊，你曾安置太陽在天空，你卻決定自己住在濃密的陰雲裏。現在我為你建造了一座莊嚴的殿宇，作為你永遠居住的場地。”所羅門沒有道出的另一個理由便是借建聖殿提高自己的地位和以色列國的威望。
從此，聖殿成為以色列社稷、猶太民族和宗教、希伯來文化和曆史的象征，在以後的三千年曆史上有著深遠的影響和重大的意義。公元前586年，巴比倫王尼布甲尼撒二世劫走聖殿中的法器財物，將聖殿徹底摧毀。波斯王居魯士二世滅巴比倫後，於公元前538年允許被擄到巴比倫的猶太人返回耶路撒冷，在原址重建聖殿，並歸還被尼布甲尼撤掠走的聖殿器物。公元前516年，聖殿重新建成，史稱第二聖殿。公元前168年，希臘塞琉古王朝安條克四世在聖殿祭壇上向宙斯獻祭，激起瑪喀比起義。起義勝利後，領袖瑪喀比重新潔淨聖殿，後來猶太人每年的修殿節便是紀念此事。公元前後，依附於羅馬的猶太王希律修繕擴建聖殿，把第二聖殿修得極為富麗堂皇，堪與羅馬的大神廟媲美。公元66年反羅馬統治的猶太人大起義爆發後，起義軍以聖殿為指揮部。起義失敗後，公元70年聖殿再次被羅馬人徹底摧毀，此後未能重建。保存至今的遺跡有聖殿院落西牆的一段。伊斯蘭教和阿拉伯帝國興起後，這段牆於公元691年並入伊斯蘭教的岩頂和艾格撒清真寺的圍牆。1967年第三次阿以戰爭後才重歸猶太人控製。這段牆從古代以來一直是猶太教最神聖的崇拜物之一和特殊的祈禱場所，稱為“哭牆。”現在每天都有猶太人來此麵壁祈禱。每逢宗教節日，有大批猶太人聚集牆下，緬懷先人業績，追憶民族苦難。
所羅門王始建的聖殿，成了猶太民族興衰榮辱福難的曆史見證。
所羅門後來又與推羅協商，修建了黎巴嫩行宮。他又為娶法老的公主增建一座行宮。這些宮殿都修建得非常豪華精巧，耗費許多錢財。