1937年10月底，上海文化界救亡協會領導撤離上海。中共地下黨組織決定張宗麟留在租界繼續做救亡工作。他曾不顧危險在上海廣播電台作了一次廣播演說，號召上海孤島居民團結起來堅持抗戰，日寇汪偽特務對張宗麟恨之入骨。
這一期間，張宗麟除了在救國會上層代替陶行知以外，主要負責國難（生活）教育社的指導、籌款、分配經費、人員安排等等。1938年陶行知回國後即去大後方，張宗麟留在上海，仍做聯絡籌款等工作。當時的國難教育社是救國會中人數最多的團體之一，主要的組織有：在上海郊區大場的山海工學團和附近的晨更工學團，在滬東工人區的餘日章小學，在滬西工人區辦過三十所工人夜校的普及教育助成會，在滬西法華寺出版過兒童科學叢書的兒童科學通訊學校，曆經19省宣傳抗日的新安旅行團等等。
生活教育社在30年代初就是中共的外圍組織，以上各單位的負責人大都是共產黨員。張宗麟與他們合作得很好，為抗戰培養了大批幹部。他還在生活教育社辦的刊物《生活教育半月刊》上發表文章宣傳抗日，並主辦生活教育社暑期講演會，講演者都是救國會的領導。“八·一三”後，國難（生活）教育社編了一套抗戰讀本，由張宗麟主編，戴白韜、劉季平、王洞若、孫銘勳編輯，生活書店出版。這套讀本由編輯到出版不到兩個月，共出了二百萬冊，發行全國，可算是中國出版界之最。雖不到半年即被國民黨當局查禁，但仍在民間流傳。
1937年“八·一三”當天，山海工學團被日寇飛機炸毀。張勁夫率領工學團的骨幹參加了滬郊的戰地服務團。不久，又向張宗麟領了二百元經費，投奔新四軍根據地。
那時張宗麟最費勁的是籌措經費。因為募捐是沒有定數的，而各單位的經費則必須按時發給。張宗麟在繁忙的事務之外，到光華大學、民治新專等校兼課。王荊璞在小學當教員，用工資維持家用，並在經費不足時貼補。張宗麟的遺物中有厚厚一疊三十年代國難（生活）教育社開給他倆的收據。
陶行知去大後方辦育才學校，經費也由張宗麟協助籌措。1938年11月，陶行知、張宗麟曾約在香港商議籌辦育才學校。1940年，陶行知又從重慶寄來許多育才學校的相片。由張宗麟拿去請上海各界人士為孩子們解囊。通過募捐，張宗麟結識不少上海聞人，同時也為地下黨做工作。1938年11月，香港中共地下黨負責人廖承誌通過方與嚴對張宗麟說：“漢奸賣了幾條輪船給日寇，即將起航。你認識杜月笙，快找杜，設法截住。”張宗麟馬上去杜月笙香港辦事處。杜聽了也很氣憤，但思前慮後，總有點猶豫。張宗麟說：“船到日本人手裏，不知又有多少中國人被殺，你也是中國人啊！”最後杜月笙終於答應派手下人去截船，這幾條船終未落入敵手。
上海淪為孤島前後，張宗麟和胡愈之等複社的同誌們不顧經費困難、敵人迫害，出版了斯諾的《西行漫記》、《列寧選集》和《魯迅全集》。除了複社的工作，他還在地下黨的領導下創辦了抗日救亡刊物《上海周報》和《譯報》。《上海周報》每期重要文章都由黨組織送來。自1939年冬創刊至1941年12月日寇侵入租界停刊，始終是孤島最受讀者歡迎的刊物。張宗麟成為日偽和蔣幫特務暗殺的目標。1942年9月，上海地下黨不得不安排他撤退到新四軍淮南二師駐地。
張宗麟在淮南根據地擔任了幾個月的江淮大學秘書長，12月底參加新四軍赴延安的小分隊經準北、蘇北、山東、河南、山西，於1943年8月到延安。當時以毛澤東為首的邊區政府對於抗日反蔣的黨內外人士都很歡迎。張宗麟受到熱情接待，被分配到延安農村與邊區教育廳進行農村調查及普及教育。1944年12月，在陝甘寧邊區文教大會上，張宗麟被選為模範，戴上大紅花。後來他又擔任延安大學教育係主任。