1934年林惠祥將自己多年來所搜集的人類學材料及研究成果彙集起來，編撰成了當時最有影響的學術論著文——《文化人類學》（商務印書館），把我國現代的人類學研究推進到了一個新的階段。作為當時大學教材用書，是國內人類學的重要著作，蔡元培先生對該書的出版題贈“博學慎思”，予以鼓勵；出版《神話論》，作為王雲五主編的“萬有文庫百科叢書”之一；此後，他又為倡辦廈門市人類博物館籌備處而四處奔走。創辦了博物館的籌備處，收集、發掘和整理我國東南地區和東南亞的考古、民族文物等人類標本，並且開放供廈門大學師生教學參考，也供校外人士參觀。
1935年為了豐富他所創辦的廈門人類博物館陳列品，增加更多的文物標本，林惠祥化名林淡墨，再次冒險進入日本占領下的台灣，調查高山族文化和圓山新石器時代貝丘遺址。由於受到日本警察的監視，隻在台灣停留兩個星期，便攜帶搜集到的數十件高山族文物返回廈門大學。他冒著生命危險所獲得的文物，是研究人類學和高山族文化的珍貴資料，得到各界的重視。這些富於人類學價值的文物標本和資料，後來則成為他在一九五五年發表的《台灣石器時代遺物的研究》一文的論據。
1936年林惠祥完成了《中國民族史)（上、下冊）的編寫工作。由於此書在中國的民族來講，古今民族分類及民族史分期等問題上多有創見，故在出版後，受到了當時國內外學術界人高度重視。並偕鄭德凱、莊為璣發掘泉州中山公園四座唐墓。
1937年在武平小徑背發掘新石器時代遺址，采集常型石锛、有段石锛和印紋陶等物，這是福建第一次較正規德早期考古發掘，為認識福建乃至東南史前文化特殊性提供了第一批詳實資料。6月，完成田野發掘。7月抗日戰爭爆發後，林惠祥攜帶了部分重要文物、圖書輾轉南下，到香港逗留了數月並開始了對南洋民族問題的研究。在香港停留時，考察南丫島新石器時代遺址，發現香港本島新石器，寫下《香港本島及舶寮洲史前遺址探尋》一文。
1938年一月，至新加坡。參加在新加坡召開的第三屆遠東史前學家大會，並宣讀武平發掘論文《福建武平新石器時代遺址》，提出“武平失”文化分布北可至江蘇、浙江，向南經廣東、香港、台灣，以致於印度支那、南洋，成為東南區考古的重要理論基礎。又進行速成識字法研究。此後，他先在新加坡的一所女中任教，不久，又改為賣文稿謀生。在這一年中，在新加坡《星洲半月刊》上陸續發表一係列的研究論文：《馬來人與中國東南方人同源說》、《南洋高架屋起源略考》、《南洋人種總說》、《馬來半島的馬來人》、《馬來半島的最古土著賽芒人》、《馬來半島的怪民族沙蓋人》、《蘇門答臘阿齊人》、《蘇門答臘答搭人》、《蘇門答臘民南加堡人》、《馬來諺語》、《古代的新加坡》、《菲律賓石器發現記》等。這些研究為日後的南洋民族誌專題研究奠定了基礎。其中，《馬來人與中國東南方人同源論》、《南洋人種總編》等，是我國最早研究南洋民族問題的論文之一。
1939年遊曆南亞，經印度恒河流域，等貢鷲山，至尼泊爾邊境，從事考古和民族學的調查，采集考古遺址中的石器，並收集貝葉經以及石、銅、陶質等各類宗教用具標本，現藏廈門大學人類博物館，發表《印度古跡研究》論文；出任檳榔嶼鍾靈中學校長，教書之餘從事南洋諸土著民族的民俗文化調查。在鍾靈中學期間，寫出《辦理本校的計劃及其實施》、《小規模圖書館分類編目簡法》、《教師之自覺》等文。他除主持日常教務和學術研究外，還積極組織該校師生為抗日戰爭募捐。
1941年根據新加坡來佛裏斯博物館考古學者H．D．Collings提供的線索，調查馬來也威士利河岸貝丘遺址，並新發現吉打省巴林鎮的德卜河遺址，采集兩遺址標本數百件，現藏廈門大學人類博物館，是國內博物館僅見的東南亞考古文物珍藏。寫下《馬來亞吉打州石器時代洞穴遺址》一文，刊登在《星洲日報》上。研究小型圖書館圖書分類法；3月離開鍾靈中學，返新加坡。立即投入到由陳嘉庚先生領導的南洋華僑籌賑會工作。
1942年新加坡淪陷，林惠祥被迫中斷了自己的學術研究，並遷家到中含的市郊，以種菜砍柴為生。直至日本宣布無條件投降。