林基路被押入第四監獄，關在5號牢房，同號的還有馬殊、高登榜、曹建培、陳穀音和段進啟。
一進5號牢房，林基路就對大家說：“我們進監獄了。我們都是共產黨員，我們要有組織，也要有個頭呀！組織起來才有力量。”他穿著靴子，背著手來回走著。
大家你一言我一語的討論著，都說我們六個人就算一個小組吧。他們一致同意林基路為黨小組長。
“我們隨時準備過堂和被分開，所以還要有個副組長。”林基路提議由高登榜擔任副組長，大家都同意。高登榜黨齡長，年齡也大。“假使我過堂不能回來，就由高登榜負責。隻要有兩個人在一起，也要推選一人負責。”
如何向敵人鬥爭呢？林基路說：“第一，要盛世才公開審判，為什麼關押我們，我們是盛世才邀請來的，在新疆有功無過。第二，在任何情況下，我們都要求盛世才集體送我們返回延安，個人單獨出獄就是叛變行為。第三，我們要在監獄中表現出共產黨人的革命氣節，寧願犧牲個人而不能有害於黨的利益。”
大家說，我們在新疆的一切言論、行動都是符合統戰原則的，是光明正大的，這一條必須堅持。要爭取公審，如果采取密審堅決反對，如果能爭取到公審，就要像季米特洛夫那樣，揭露敵人的陰謀，控訴敵人的罪惡，不怕犧牲自己的生命與敵人鬥爭。大家也估計到敵人不會公審，如果真的密審，使用刑訊，就要用生命來維護黨的利益，死不屈服。林基路提出的三條實際上成為六個人的公約。
一天吃早飯時，林基路搛菜的兩根木筷斷了。他笑了笑，說：“我們廣東人認為，吃飯斷了筷子是最不吉利的！”大家聽了都笑了起來，有的說：“哎呀，迷信，迷信！”這雖是林基路看到獄中生活單調，講出來逗笑的，但也從一個細節說明林基路意識到獄中鬥爭的艱苦與險惡。就在這一天，林基路吟成了著名的《囚徒歌》。他的筆被剝奪了，隻好踱步沉思，在俯首或仰首間長嘯或低吟，終於吟出了激昂慷慨的詩。大家聽了都說好，要求寫出來。他們找到一些廢紙，但是沒有筆，怎麼寫？先用煙囪裏的煙黑，不行；當時牢房裏有熏大小便臭氣的土香，把它點燃了又用水熄滅，拿香骨炭來寫，也不行；最後還是設法找到半截鉛筆，才寫成了。
……
囚徒，新的囚徒，
堅定信念，貞守立場；
砍頭槍斃，告老還鄉，
嚴刑拷打，便飯家常。
擲我們的頭顱，
奠築自由的金字塔；
灑我們的鮮血，
染成紅旗，萬載飄揚！
同號的陳穀音畢業於上海音樂學院，對聲樂、器樂、作曲、指揮造詣都很深。他在學生時代就參加革命的文藝活動，1938年秋由中共中央派來新疆工作，在省立師範學校任音樂教師。他用悲壯的音符為這首詩譜了曲。一聲長嘯，千古回音。此後，出自5號牢房的歌聲，除熟悉的《國際歌》外，增添了不平常的《囚徒歌》。這首歌是火，能點燃，能溫暖，能照耀，通過多方設法，傳遍了整個監獄。
每當夜深，林基路被狂吠的狗叫聲驚醒時，往往想起也被囚禁了的愛人和孩子。一彎淡月憂鬱如夢，平和恬然，靜靜地悄悄地走來，無言地望著男牢和女牢。林基路又以愛人和其他被囚禁的女同誌的心情寫了《思夫曲》。這首《思夫曲》也由陳穀音譜曲，傳到女牢，被女戰友唱起來。
懷念那籠中的猛虎，
是我夢裏的人兒；
蒼天為我叫月兒缺圓，
夜色荒蕪；
草木為我在窗外含愁，
長夜悲哭！
……
高挺著胸脯，
邁開結實的腳步；
跟我可愛的人兒，
踏上鬥爭征途！
黎明就在眼前，
黑暗已到盡頭！
……
1943年3月10日，即重慶的“新疆審判團”到達迪化的這一天，林基路被押往第二監獄。盛世才及其特務為了製造所謂“四一二共產黨陰謀暴動案”，先逮捕了由新疆學院畢業後，在省民政廳任職的喬國仁，在喬國仁受刑昏迷的時候，把事前偽造好的“供詞”拿來，強行按上喬國仁的指印，栽贓陷害毛澤民、林基路等，然後株連在新疆的所有共產黨員以及進步人士。1943年1月盛世才精心籌劃的有各機關和學校頭頭參加的“公審大會”上，喬國仁掠開傷痕累累的胸膛，當眾揭穿了盛世才刑訊逼供，誣陷中國共產黨的真相，揭穿了這次“公審”的鬼把戲。盛世才在激怒之下，下令處死了喬國仁。喬國仁多才多藝，演戲、畫畫、木刻、打球樣樣在行，新疆學院校刊《新芒》的各期封麵都是他設計的。他向往革命，對教務長林基路最傾心，他是林基路培養的一個突出代表。