抗戰時期，他指揮的抗日聯軍與侵華日軍周旋在林海雪原，馳騁在鬆江兩岸，創造了東北戰爭史上的奇跡，被東北的父老鄉親稱為“北國雄獅”。 趙尚誌是著名抗日將領，東北抗日聯軍創建人和領導人。毛澤東曾讚揚說：“有名的義勇軍領袖楊靖宇、趙尚誌、李紅光等等，他們都是共產黨員，他們的堅決抗日、艱苦奮鬥的戰績是人所共知的。”
趙尚誌，1908年出生於遼寧朝陽縣一個以教書和務農為生的家庭，兄妹11人，他排行第三。父親是前清秀才，教過私塾，後因家鄉難以存身而流落到哈爾濱。趙尚誌小時候隨父親讀過3年私塾， 11歲便走上社會，幼年時當過學徒，先給俄僑老板當傭人，後到哈爾濱道勝銀行當信差，在少年時代便受盡了中俄老板和社會上黑惡勢力的欺淩，並養成了倔強和富有暴烈反抗精神的性格。
1917年初，趙尚誌因參與打死幾個作惡的官兵，被迫背井離鄉。1919年春隨家遷居哈爾濱道外集良街53號。由於生活困難，大哥去前蘇聯做工，趙尚誌也輟學打工謀生。後來在大哥資助下，於1925年考入哈爾濱許公工業學校。
這時正是中國大革命的前夜，革命的浪潮不但激動了關內的青年，也使較關內閉塞的東北青年興奮起來。受十月革命和“五四”運動以來進步思想的影響，趙尚誌逐漸對於學校生活感到不滿，他開始秘密閱讀從關內流傳到東北的革命書籍，探索救國救民道理，並且漸漸地開始在青年中進行活動，在學校裏串聯一些進步同學秘密組織了讀書會，共同閱讀進步書刊，他還與工大、醫專、法大的進步學生經常往來，結識了中共哈爾濱市特別支部書記吳麗石和青年運動負責人彭守樸等人。
1925年“五卅”運動後，趙尚誌在吳麗石的領導下，積極參加反帝愛國運動，組織許公工業學校的學生會，積極參加了聲援鬥爭。彭守樸在寫給吳麗石的信中說：“趙尚誌年紀雖小，但鬥爭性很強，對共產主義有明確的認識和堅定信念，應批準他入黨”。
趙尚誌於1925年6月在許公工業學校加入中國共產黨，時年僅17歲。軍閥當局視學生的愛國活動為大逆不道，趙尚誌以“不守校規”的罪名被開除學籍。吳麗石親自為趙尚誌籌借路費，介紹他到廣州參加黃埔軍校學習。1926年，已經是共產黨員的趙尚誌，經中共哈爾濱特支書記吳麗石的介紹，千裏迢迢來到了南方革命大本營廣州，進入黃埔軍校第4期學習，成為黃埔軍校的入伍生，與林彪、李運昌等為同窗學員。
1926年5月，蔣介石提出“整理黨務案”加緊迫害共產黨人，趙尚誌毅然退出黃埔軍校，重返哈爾濱，先後在哈爾濱、雙城、長春、沈陽等地從事黨的地下活動。
從事地下黨活動的趙尚誌，平時很少回家，而且每次回家的裝束都不同，有時穿著西服，有時穿著破舊的皮襖，每次一走進院子，都會小聲囑咐家裏人：“別叫我。”
趙尚誌這樣是為了不暴露身份，有時趙尚誌被敵人抓去回家後滿身傷痕，家裏人心情很沉重。這時他就勸慰大家說：“革命連犧牲都不怕，這點小傷算什麼。”
年輕時的趙尚誌個子不高，說話聲音很大，精力充沛，性格粗獷、豪邁、倔強，透著一股英雄氣概。回到東北哈爾濱不久後趙尚誌被派往長春開展工作，並與一些國民黨員合作建立了國民黨吉林省黨部。1927年3月間，日本情報機關發現了他的活動，長春憲兵隊逮捕了趙尚誌和另一位同誌。在審訊中機警的趙尚誌隻承認自己參與國民黨吉林省黨部工作，沒有暴露共產黨員身份。1928年年底張學良宣布東北易幟後，釋放了大批關押在東北監獄裏
的國民黨人，並把某些有“赤色分子”嫌疑的人員押送南京，趙尚誌也在其中。經過幾個月審理，1929年5月國民政府江蘇省高等法院最後認定趙尚誌為“三民主義之忠實信徒”，得以無罪開釋。獲釋後他返回東北，被派往北滿特委負責學生運動。1930年4月，趙尚誌再次被捕，由於同時被捕的杜蘭亭變節，其身份暴露，一直被關押在奉天(沈陽)第一監獄。
兩次被捕入獄，趙尚誌都嚴守黨的機密，堅貞不屈。他的外甥李明曾經講過趙尚誌獄中受過的刑“披麻戴孝”，敵人用子彈殼在肋骨上刮下一條一條的肉，血肉模糊的時候往傷口上撒鹽、纏紗布，等過幾天再把結痂粘在肉上的紗布一條條地扯下來，這樣反複做。但趙尚誌意誌力非常頑強，麵對酷刑，始終不吐露自己參加共產黨的任何活動情況，經受了嚴峻的考驗。
1931年“九一八”事變後，處於國破家亡境地的東北人民，在白山黑水之間燃起了民族自衛的抗日烽火，各地義勇軍、遊擊隊、紅槍會、大刀會、山林隊等抗日武裝猶如雨後春筍紛紛湧現。在各抗日義勇軍與日本侵略軍的激戰中，東北各地區不願做奴隸的人們為收複失地奮勇作戰。1931年10月，美國的《密勒氏評論報》曾發表評論說：“滿洲事實上沒有不被襲擊的地方，城市和鐵路，竟找不出一處來。”英國的《倫敦每日導報》也載文說：“滿洲國當局日陷不寧，目下滿洲境內，日本人沒有一條絕對安全的道路。”東北各地的抗日武裝主動出擊，使日本侵略軍晝夜不安，終日疲於奔命。
九一八事變爆發不久，中共中央於9月20日發表了《中國共產黨為日本帝國主義強暴占領東三省事件宣言》，強烈譴責日本帝國主義的侵略，號召人民起來參加工農蘇維埃運動，“驅逐帝國主義在華的一切海陸空軍”。9月22日又通過了《關於日本帝國主義強占滿洲事變的決議》。該決議受共產國際“日本對華戰爭就是進攻前蘇聯的序幕”觀點的影響，認為日本侵占滿洲，其主要目的在於為進攻前蘇聯準備基地，是“準備反對前蘇聯的進攻與帝國主義爭鬥市場和殖民地的強盜戰爭……是反蘇聯戰爭的序幕，”因而中共中央要求各級組織積極開展反帝運動，發展反帝組織，並 “廣大的進行武裝保衛前蘇聯的宣傳鼓動工作”，加強兵運工作，“變帝國主義戰爭為國內戰爭”，對於滿洲地區，則“更應該加緊組織……兵變與遊擊戰爭，直接給日本帝國主義以嚴重的打擊”
根據中共中央指示，中共滿洲省委於1931年11月召開會議決定積極創建抗日遊擊隊並開展遊擊戰爭，認為“發動遊擊戰爭，開辟滿洲新的遊擊區域與蘇維埃區域，是滿洲黨目前最中心最迫切最實際的戰鬥任務”。中共滿洲省委分析了日本帝國主義占領東北後的形勢，作出《目前黨的緊急任務的決議》，對組織領導東北地區的抗日運動和發動抗日武裝作出了部署。在黨組織的多方努力下，趙尚誌被營救出獄。根據黨組織指派，趙尚誌到東北宣傳抗日主張，並很快在當地組織了一支抗日隊伍——珠河工農反日義勇軍。
出獄後的趙尚誌擔任中共滿洲省委軍委書記、全滿反日總會黨團書記，他率領珠河工農反日義勇軍，經過數次與日軍戰鬥後，這支隊伍不斷擴大，創立了以珠河、賓縣為中心的抗日根據地，其間曾與共產黨員範廷桂在香坊城高子車站附近炸毀日本軍用列車，給敵人以沉重打擊，日軍逐漸將他視為眼中釘、肉中刺。
1932年4月，中共北平市委書記、清華大學學生張甲洲奉中共中央政治局常委、中央軍委書記周恩來之命率領於天放等6名黨員大學生回到東北。中共中央政治局委員、中共滿洲省委書記羅登賢在哈爾濱市道外區東永德旅館秘密接見了張甲洲等熱血青年，指示他們返回家鄉創建東北抗日人民武裝——巴彥抗日遊擊隊，領導人民拿起刀槍向日軍開戰。張甲洲任巴彥抗日遊擊隊總指揮，中共滿洲省委軍委書記趙尚誌任巴彥抗日遊擊隊政治委員，於天放任巴彥抗日遊擊隊特派員、情報處長。趙尚誌協助張甲洲整頓巴彥遊擊隊，改造土匪和雜色武裝，巴彥抗日遊擊隊成為中共在北滿武裝的開拓者。
趙尚誌利用巴彥地處山區、遠離日偽統治的有利形勢，與在南滿已成抗日聲勢的楊靖宇抗日遊擊隊形成了南北聲援之勢。由於趙尚誌善於團結包括當地上層人士在內的一切抗日力量，所以他很快把抗日根據地從巴彥擴大到齊齊哈爾附近的鎮來等地，抗日勢力迅速擴大。
8月16日淩晨，巴彥戰鬥打響。張甲洲命令敢死隊頭頂“土坦克”（在八仙桌的桌麵上蒙著濕被）冒著彈雨衝到古城巴彥牆根底下，“轟隆！”一聲巨響，5米高、2米寬的城牆被炸開一個大豁口，張甲洲、趙尚誌躍馬揮刀、身先士卒、衝鋒在前，率領800名抗日勇士前赴後繼、奮勇拚殺，一舉攻占了巴彥縣城，全殲日軍一個中隊128人、偽軍一個大隊344人，擊落一架低空盤旋偵察的日軍“紅肚子”飛機。
巴彥大捷轟動了關內外。硝煙尚未散盡，遊擊隊指揮員們興高采烈地聚在司令部集體合影，留下了勝利的紀念、永恒的記憶。照片上，平均年齡剛過20歲的抗日遊擊隊指揮員們軍容整潔、服裝統一、英姿勃發，顯示了中華兒女要同敵人血戰到底的英雄氣概。隨後，張甲洲、趙尚誌指揮遊擊隊奇襲興隆鎮、大破東興縣，在鬆花江北岸10餘縣點燃了熊熊的抗日烽火，給日本侵略軍以沉重打擊。
擔任巴彥抗日遊擊隊政委的趙尚誌，化名李育才，在一次戰鬥中不幸多處受傷，左眼下方中彈，打傷了神經，從此左眼失明。趙尚誌來到哈爾濱，一邊向省委彙報工作，一邊想辦法治傷。當時趙尚誌的家就在道外，但他卻不能回到自己的家裏，因為他在外麵搞革命活動從不回家，怕引起人們的注意和懷疑。所以，隻能趁天黑人少的時候來到他的一位同學家裏。趙尚誌的傷勢很嚴重，可是他像個鐵人，從不叫苦。同學勸他住院治療或請個大夫看看，他說這樣非但治不了傷，還可能被捕，請大夫那更不可以，那樣會連累同學一家。趙尚誌委托在護士學校學習的妹妹弄點藥，一麵治傷，一麵與黨組織取得聯係。每天早出晚歸，盡量不給同學家裏添麻煩。
趙尚誌早上一出門，同學的母親便叮嚀他，一定要找個好大夫看看病，並讓他早點回來，有時還給趙尚誌一些零花錢。不管趙尚誌晚上什麼時候回來，同學母親都一直等他，把留給他的晚飯熱了一遍又一遍。趙尚誌也像親生兒子對待母親一樣，關心同學的母親，給她買些食品。
趙尚誌每天外出回來時，一有空就與同學聊起抗日鬥爭的事，他對同學說：“我趙尚誌不管碰到什麼困難，遇到什麼挫折，抗日救國的決心也不會改變。”當時趙尚誌明顯消瘦，同學母親看到了十分心疼，就想辦法給他做好的吃，想方設法給他補養身子。
雖經多方治療，由於缺醫少藥，加上條件艱苦，趙尚誌為了抗日事業最終失去了左眼。
1932月5月16日，巴彥抗日遊擊隊發起“七馬架暴動”，發出了震驚世界的抗日怒吼。11月，中共中央軍委命令巴彥抗日遊擊隊改編為中國工農紅軍第36軍，張甲洲任軍長，吳福海任政治委員，趙尚誌任參謀長。紅36軍下轄3個騎兵師，共1500餘人。
1933年初，趙尚誌率部轉戰呼蘭等地，因敵我力量不成比例，部隊被打散，趙尚誌與少數同誌返回哈爾濱，滿洲省委將失敗的責任歸咎為趙尚誌，並以“右傾”錯誤，開除了他的黨籍。
1933年4月，趙尚誌離開哈爾濱來到賓縣參加了孫朝陽領導的義勇軍，當了一名不起眼的馬夫。不久，孫部在賓縣東山被困，處境危急，孫朝陽一籌莫展。趙尚誌挺身而出建議以攻為守，趁敵軍傾巢出動襲取賓縣縣城，迫使敵軍回援解圍。孫朝陽采納了趙的建議，並委任他率隊攻城。在趙尚誌巧妙指揮下，一舉占領了敵軍防守空虛的賓縣縣城，也解了東山之圍。這次戰鬥結束後，趙尚誌被提升為參謀長，不久又與中共珠河縣委派到孫部的李啟東等取得了聯係。同年7月，由於孫朝陽動搖，趙尚誌和李啟東等10餘人脫離了孫部，決心在珠河縣委領導下組建黨自己的抗日武裝。
在脫離孫朝陽部隊之後，趙尚誌找到了中共珠河縣委，在這裏，他了解了中共中央關於在東北建立抗日民族統一戰線的新政策，血的經驗與失敗的教訓使他懂得了必須聯合起來共同抗日的革命道理，於是他根據珠河縣委的指示，聯合當地分散的抗日武裝，於1933年10月10日組建了珠河東北反日遊擊隊，趙尚誌任大隊長，王德全任機關槍隊長，李根植任少年先鋒隊長。在成立典禮上，中共珠河縣委也派代表參加，趙尚誌發表了珠河東北反日遊擊隊成立宣言及鬥爭綱領，最後鳴槍宣誓，誓詞寫道“我珠河東北反日遊擊隊全體戰士，為收複東北失地，爭回祖國自由，哪怕槍林彈雨，萬死不辭，哪怕赴湯蹈火，千辛不避，誓必武裝東北三千萬同胞，驅逐日寇海陸空軍滾出滿洲，為中華民族的獨立解放奮鬥到底。”
珠河反日遊擊隊，最初僅有隊員13人，在趙尚誌的領導下，在不到3個月的時間內連續取得了多次戰鬥的勝利，部隊也很快發展到70多人。趙尚誌率領這支遊擊隊積極進行抗日鬥爭，打跑了當地的日軍走狗，取消了偽滿洲國的一切苛捐雜稅，努力揭穿日軍的一切欺騙宣傳，不斷向民眾傳播團結抗日的思想。在最初的日子裏，趙尚誌曾遭到很大困難，農民把他們看作是“文明胡子”，部隊窮困得沒有衣穿，沒有飯吃，但他一直用誠實的行為，忍耐的態度去教育、感化農民，農民從親自經曆的事實中感覺到，他們是抗日救國的隊伍，大家都相信他們了。
珠河東北反日遊擊隊以滿腔熱血，衝天勇氣，在趙尚誌領導之下橫掃日軍，誓為東北人民報仇雪恨，當地抗日力量紛紛加入。1934年初，趙尚誌聯合“愛民”、“青林”、“北來”等20多支義勇軍和山林隊，聯合組建了東北反日聯合軍，趙尚誌被推為總司令，全軍約500人，在侯林鄉，黑龍宮等地建立了遊擊根據地。之後，趙尚誌率部攻下珠河五區亮珠河鎮，大破延壽二區黑龍宮，又團結哈東反日義勇軍至數千人，三次圍攻賓州城，在趙尚誌的影響下，賓縣的武裝力量也紛紛追隨趙尚誌抗日。
東北反日聯合軍迅速發展至600餘人，同年6月趙尚誌將聯合軍改編為東北反日遊擊隊哈東支隊，趙尚誌任支隊司令兼第1總隊總隊長，李兆麟任支隊政委，支隊下轄共9個步兵大隊，一個騎兵隊，一個教導隊，一個迫擊炮隊。抗聯武裝的壯大為趙尚誌提供了更多的用武之地，1934年9月趙尚誌指揮哈東支隊一舉攻克五常堡，哈東支隊兵強馬壯，打遍了賓縣八大區，在攻下五常縣城後，進擊到荒山嘴子一帶，哈爾濱的街頭巷尾到處傳頌著抗日遊擊隊趙尚誌的英名。
日軍看到珠河東北反日遊擊隊日益強盛，匆忙調集所謂“日滿皇軍”萬餘人，在飛機的協助下對遊擊隊大舉“討伐”。在賓縣三岔河一戰中，由於趙尚誌善用遊擊戰術，擊斃擊傷日偽軍500餘名，且有部分偽軍反正。日軍知道強攻不可以取勝，於是便采用陰謀詭計，派刺客周光亞（哈爾濱日軍哈字偵探隊隊長）謀刺趙尚誌，但陰謀未能得逞。日軍又利用漢奸，指使國民黨親日派在遊擊隊中破壞抗日民族統一戰線，鼓吹“國共不兩立”，但這些都未能阻止遊擊隊的發展壯大。
趙尚誌率領哈東支隊，英勇戰鬥，南下五常堡，西取雙城康家盧，東征延方，越戰越勇。哈東支隊的活動震動了日軍，日軍認為趙尚誌部是“北滿治安的最大禍患”，於是加大了“討伐”的力度，在同年10月日軍的冬季“討伐”中，趙尚誌率領哈東支隊一部200餘人返回鬼排山宿營地時，遭到500多日偽軍的包圍，他臨危不懼，指揮部隊沉著應戰，等到夜幕降臨，趙尚誌派出少數騎兵偽裝主力突圍，自己率主力在敵軍注意力被吸引過去後從敵人背後發起猛烈進攻，打亂了敵軍陣腳，順利突圍。在撤退途中，趙尚誌右腕為流彈所傷，但他仍奮臂灑血指揮作戰，曾數次昏迷，部隊在屬下師長指揮下，終於安全轉移。在這次突圍戰中，趙尚誌部僅傷亡3人，而日偽軍損失100多人。日軍指揮官望月中佐目睹哈東支隊轉敗為勝，秩序井然的撤退情景，不禁驚呼：“此戰必有名將指揮”。
1934年，日軍對趙尚誌組建的反日遊擊隊進行了多次“討伐”，趙尚誌采用機動靈活的遊擊戰術與日軍作戰，多次跳出日軍的包圍圈，並在冰趟子對日軍進行伏擊，擊斃日軍200多名。敵人企圖通過“討伐”消滅遊擊隊的企圖未能得逞。
“中國內有偽滿洲，‘滿洲國’便是活地獄，死亡流離日夜愁，自從亡省後，隻有壓迫，並無自由。同胞三千萬，同胞三千萬，誰肯甘心作亡國奴！不抗日，不團結那有出路，失田地傾家產衣食難求，快快起來爭回祖國，雪盡中華奇恥冤仇。”