市舶司初建時，一般均沿用南宋製度，日久弊生，嚴重影響市舶收入。至元三十年，元政府製訂了“整治市舶司勾當”的法則22條。延祐元年(1314)，又修訂頒布了新的市舶法則22條。這兩個法則，對市舶司的職責範圍作了明確的規定，其目的是為了加強政府對海外貿易的控製，增加更多的收入。元代的市舶法則比宋代更為嚴密，說明封建國家在管理海外貿易方麵已經具有更為豐富的經驗。但是，貴族官僚常常帶頭破壞規定，使它流於空文。
元代見於記載的與中國建立海道貿易關係的國家和地區在100個以上，東起日本、高麗(今朝鮮)，西至東北非和西南亞。進口的舶貨，種類繁多。據慶元市舶司的資料，細色130餘種，粗色約90種，共220餘種，主要是香料、藥材、布匹、寶物等。經市舶司允許出口的貨物有紡織品、陶瓷器、日常生活用品等。海外貿易的開展，有助於中外經濟、文化的交流。市舶司的設立，使海外貿易趨於製度化，初期起過一定的積極作用。但市舶司是封建國家機器的一個組成部分，同樣存在官僚機構的種種弊端，往往阻礙了海外貿易的開展，元代中期以後特別明顯。
明代沿襲前朝之製，市舶司管理海外諸國朝貢和貿易事務，置提舉一人，從五品，副提舉二人，從六品，屬下吏目一人，從九品。提舉，或特派，或由按察使和鹽課提舉司提舉兼任。市舶司隸屬於布政司。因此，稅收大權完全掌握在布政司等長官手中。直至明末，采取了定額的包稅製，才改由提舉負責征收。
吳元年(元至正十二年，1367)設市舶提舉司於直隸太倉州黃渡鎮(今江蘇太倉附近)，洪武三年(1370)以太倉逼近京城改設在廣東的廣州、福建的泉州(後移至福州)、浙江的寧波各一司。在廣東的是專為占城(越南)、暹羅(泰國)、滿刺加(馬來西亞)、真臘(柬埔寨)諸國朝貢而設，在浙江的是專為日本朝貢而設，在福建的是專為琉球朝貢而設。七年，上述三司曾經一度廢止。永樂元年(1403)又在廣州設懷遠驛，在泉州設來遠驛，在寧波設安遠驛，由市舶司掌管接待各國貢使及其隨員。廣東懷遠驛，規模龐大，有室二十間。廣東市舶司命內臣提督。六年，為了接待西南諸國貢使，又在交阯雲屯(今越南廣寧省錦普港)設市舶提舉司。嘉靖元年(1522)，因倭寇猖獗，罷去浙江、福建二司，唯存廣東一司。不久亦被廢止。直到三十九年，經淮揚巡撫唐順之的請求，三司才得到恢複。四十四年，浙江一司以巡撫劉畿的請求，又罷。福建一司開而複廢，至萬曆中始恢複。自此以後，終明之世，市舶司無大變動。