當地民謠傳唱：“劉誌丹練兵石峁灣，要把世事顛倒顛。”起義隊伍被打散後，他化裝成貨郎返回陝北，靠幾支駁殼槍再次打開了局麵。一生清貧，犧牲時的遺物隻有幾份文件和六支香煙。東征戰役中任紅28軍軍長，率部英勇作戰，獻出了年輕的生命。毛澤東高度稱讚他是“民族英雄，群眾領袖”，周恩來親筆題詞：“上下五千年，英雄萬萬千，人民的英雄，要數劉誌丹”。
陝北革命老區至今流傳著一首信天遊：“正月裏來是新年，陝北出了個劉誌丹，劉誌丹來真清官，他帶上隊伍上橫山，一心要共產。”“二月裏來刮春風，劉誌丹來是英雄，靖邊白軍都打光，繳來快槍無其數，散給老百姓。”“自從來了劉誌丹，咱們的日子不一般。打倒土豪和老財，推翻了軍閥和贓官。鐮刀斧頭老钁頭，砍開大路窮人走。革命力量大發展，紅旗一展紅了天。”
當年企盼好光景的陝北民謠，幾乎把劉誌丹視為救世的聖人，這是因為他確實代表了當地窮苦民眾的利益。由此不難看出，劉誌丹在陝北人民心目中有著巨大的影響。
在延安革命紀念館的突出位置，有毛澤東和周恩來接見劉誌丹的一副場景。毛澤東和劉誌丹二人雙腿誇張前傾，麵帶笑容，雙手緊緊握在一起，一旁的周恩來晗首微笑，深情欣然。幾十年前的延安，藏龍臥虎，盤踞著中國革命的無數領袖，但是，在這個革命紀念館中，能夠跟朱毛周等中央五位書記之外，並列在一起的，也就劉誌丹了。可見，他對於延安、對於中國革命的曆史功勳。
劉誌丹，原名劉景桂，字誌丹，1903年10月4日出生於陝西省保安縣（今誌丹縣）蘆子溝村的一個秀才之家。小時候，他就讀於本縣的高等小學堂，雖自身家境尚好，卻目睹了黃土高原上餓殍遍野、民不聊生的慘景。他愛聽當地李自成起義的故事，立誌改變社會。19歲時考入陝北地區23縣僅有的一所中學——榆林中學，閱讀了許多進步書刊，受馬克思主義影響，在學生運動中當上了校學生自治會會長，成長為陝西地區的學生領袖，同軍閥井嶽秀等封建勢力作鬥爭。1924年，他加入中國社會主義青年團，成為陝北的社會主義青年團的第一批團員，次年轉為中共正式黨員。
1925年秋，中共中央發出通知，接收3000名入伍生，要求各地的黨組織迅速多派人員報考黃埔軍校。1926年初，劉誌丹按照中共陝西黨組織的決定，投筆從戎，考入廣州黃埔陸軍軍官學校，入黃埔軍校四期步兵科第1團2連學習，不久轉入炮兵科，這是他軍事生涯的開始。北伐戰爭開始後，劉誌丹參加了北伐誓師大會，翌年秋畢業後參加北伐戰爭，任國民革命軍第2集團軍總政治部組織科科長、西安中山軍事政治學校教官，同年冬任國民聯軍第4路軍馬鴻逵部黨代表兼政治處處長，在該部建立軍、師、團、營政治工作機關，開展新式練兵。
曆史的機遇和黨組織的知人善任，使劉誌丹在當時全國最高軍事學府裏，得到良好的軍事、政治教育，受到係統的軍事培訓，學到正規的軍事技能，從而打下了牢固的軍事理論基礎，提高了文武兼備的素質。同時，由於當時廣州處於大革命的最前沿，黨在廣州開辦農民運動講習所，舉行各種活動，劉誌丹積極參加，廣泛交友，深受黨的革命思想教育和黨內一些領袖人物與知名人士的影響。劉誌丹這時隻有23歲，但在西北軍中已成為知名人物。
劉誌丹滿腔熱情、紮實勤奮，努力改造政治工作，使國民聯軍的麵貌一新，在其策應北伐戰爭中發揮了明顯作用。然而，1927年大革命失敗後，蔣介石、汪精衛背叛革命，大批共產黨人人頭落地，在國民聯軍工作的共產黨員有的慘遭殺害，劉誌丹與劉伯堅、鄧小平等共產黨員被“禮送出境”。親身經曆這一血的教訓，使劉誌丹有著切膚之痛，他深深地懂得中國共產黨獨立掌握軍隊和領導武裝鬥爭的極端重要性。他說：“我們沒有槍杆子，隻靠筆杆子不行。結果人家一翻臉，我們就隻有滾蛋。”這是他對大革命失敗教訓的深刻反思，也是對黨內右傾機會主義嚴重危害的深刻認識。從此，他更加堅信毛澤東提出的“槍杆子裏麵出政權”的著名論斷，從而堅定了創建黨領導革命武裝的決心和意誌，而且在創建人民軍隊、進行革命戰爭實踐中義無反顧，堅韌不拔，使他的軍事生涯由高起點達到高境界。
組織領導渭（南）華（縣）起義，是劉誌丹創建革命軍隊的起點。轟轟烈烈的大革命失敗後，劉誌丹在中共陝西省委從事秘密交通工作。1928年1月，陝西省委派劉誌丹與唐澍、謝子長到達洛南縣，參與以中共黨員許權中為旅長的國民黨軍新編第3旅的起義組織工作，任參謀主任。不久，劉誌丹率一批幹部到豫陝邊界地區開展農民運動，培訓赤衛隊骨幹。
渭華起義東路以華縣、渭南、臨潼為中心，西路以渭河以北的三原、富平等為中心，南路以蘭田、商縣為中心。其中，又以東路的渭南、華縣為中心，普遍成立了蘇維埃政權，故稱渭華起義。
5月間，劉誌丹按照中共陝西省委的決定，同唐澍、謝子長等領導國民黨軍新編第3旅，與渭華地區的農民暴動隊伍相結合，正式宣布起義，公開打出建立工農革命軍的旗幟，劉誌丹任西北工農革命軍軍事委員會主席。
西北工農革命軍成立後，號召民眾起來革命。革命軍所到之處，大力幫助農民群眾開展反對地主豪紳的鬥爭。很快，東起少華山，西至臨潼縣，南靠秦嶺，北到西（安）潼（關）公路200多平方公裏地區的反動政權被基本摧毀，打土豪，分財物，建立蘇維埃政權的革命運動熱火朝天。農民群眾熱情地歌唱：“不愛銀子不愛財，光愛工農蘇維埃，不愛金子不愛錢，光愛人民新政權”。
渭華起義發起後，劉誌丹等人用通俗詩的文體發出的布告，道出了當時人民要革命的原因——“土豪劣紳加財東，剝削窮人真個凶。加以放賬驢打滾，賣兒賣女還不清。”“貪官汙吏都打倒，我們要做主人翁。建立蘇維埃政權，才能過成好光景。”劉誌丹之所以能在陝北發動起義，就是因為有一批並把爭取生存、溫飽的希望寄托於他的人，勇敢地舉起了紅旗。
渭華起義是繼南昌起義、湘贛邊界秋收起義和廣州起義之後，共產黨在西北地區舉行的規模最大的一次武裝起義，具有重要影響。渭華地處豫陝交通要道，曆來為兵家必爭之地。共產黨領導革命軍民在這裏發動起義，國民黨極度恐慌。當時任陝西省主席的宋哲元大為震驚，立即集中了3個師和地方上的反動民團，向劉誌丹領導的西北工農革命軍發動了3次進攻。劉誌丹率部英勇抵抗，勝利地粉碎了敵人兩次進攻。
1928年6月9日，宋哲元以3個師的兵力，配以騎兵、炮兵，突然向劉誌丹部開始了第三次大規模進攻，敵軍分東、中、西三路瘋狂撲來。西北工農革命軍撤向陝北的路線被切斷，劉誌丹、唐澍分別指揮部隊奮勇抗擊數十倍於己之敵，戰鬥異常激烈。血戰竟日後，劉誌丹下令部隊向秦嶺以南撤退，相機而動。但退至保安兩岔河，還未站住腳，便遭到李虎臣5個旅的包圍。唐澍在戰鬥中壯烈犧牲，劉誌丹、謝子長率3大隊奮力衝出重圍。
渭華起義在宋哲元3個師的兵力進攻下失敗了。陝西到處貼著“緝拿渭華暴動匪首劉景桂”的布告。
渭華起義的深遠意義在於它用熱血和生命為革命事業提供了寶貴的經驗。劉誌丹率領部隊在藍田縣境內張家廟集中，召開會議。劉誌丹冷靜地總結了渭華起義失敗的教訓，如軍隊太少，又靠著要道，死打硬拚等。他認為西北軍閥派係多，廣大農村是他們統治最薄弱的地方。陝甘交界的大山中，出了許多山大王，曆代統治者都拿他們沒辦法，就因為他們有槍杆子，有地盤。搞武裝，建立自己的軍隊，創立農村根據地這些思想已在劉誌丹的腦子中生了根。從此，他踏上了一條幾經曲折、曆盡艱難的建立紅軍和根據地的道路。劉誌丹果斷地作出決定，已公開的黨員先離開部隊，設法保存黨領導的這一支革命武裝力量，劉誌丹等去省委彙報創建革命武裝的想法。
之後，劉誌丹化裝潛入西安，向中共陝西省委作了彙報。中共陝西省委派他到陝北，擔任中共陝北特委軍委書記，繼續從事“兵運”工作。1928年冬，他按照中共陝西省委的決定，到達榆林。他鑒於當時陝甘地區各派軍閥正在竭力擴張勢力，即於翌年四五月間在紅石峽主持召開陝北特委會議，提出“變敵人的武裝為革命的武裝”的重要思想。這是劉誌丹提出的大膽創見，據此，會議決定采取以“紅色”、“白色”、“灰色”三種形式開展武裝鬥爭，創建革命武裝。
所謂“紅色”，就是發動組織工農群眾，建立黨所獨立領導和指揮的人民軍隊。劉誌丹認為，人民軍隊是進行革命戰爭的骨幹，必須走毛澤東開創的井岡山道路，才能使陝甘地區的革命鬥爭有光明的發展前途。他把分散的、弱小的群眾武裝逐步集中起來,先建立遊擊隊，後上升為正規紅軍。這種辦法與毛澤東建軍路線是一致的。
所謂 “灰色”，就是派人爭取、教育和改造綠林武裝，為創建人民軍隊準備群眾基礎和武裝力量。他認為，陝甘地區有許多綠林武裝，其中不少人出身貧苦，俠肝義膽，由於生活所迫，鋌而走險，被“逼上梁山”。他們同官僚軍閥、地主豪紳之間的矛盾相當尖銳、複雜。隻要有共產黨的領導和教育改造，他們就有可能走上革命的道路。
所謂“白色”，就是派共產黨人到白軍中開展兵運工作。
渭華起義失敗後，劉誌丹深深感到根據地對於革命成功的重要意義，明確提出“向井岡山學習”，實行“工農武裝割據”。經過廣大軍民的艱苦努力，成功地創建了以照金為中心的陝甘邊根據地。
1929年，他到陝甘邊界的橋山，見當地是“三不管”的地方，一些土匪搞幾支槍就能在此割據一座山頭，便動員陝西省委的黨員說：“連土匪都可以在這些地方稱山大王，弄得軍閥無可奈何，為什麼我們共產黨人不可以在這裏鬧革命呢？”翌年夏天，他拉起一支200人的隊伍上了永寧山。當地民謠傳唱：“劉誌丹練兵石峁灣，要把世事顛倒顛。”不久，在敵軍“圍剿”中，隊伍被打散，劉誌丹也被關進監獄，黨組織通過疏通楊虎城的關係，他才得以釋放。
渭華起義是西北地區繼清澗起義後規模最大的軍隊和農民運動相結合的一次武裝起義，是共產黨領導武裝鬥爭、建立蘇維埃政權的偉大嚐試。渭華起義的深遠意義在於它用熱血和生命為革命事業提供了寶貴的經驗。劉誌丹正是吸取了渭華起義的經驗教訓，在黨的領導下，成功地創建了西北工農紅軍和西北革命根據地，西北根據地成為黨中央、毛主席率領中央紅軍長征的落腳點和戰勝日寇、解放全中國的根據地。
1930年8月中旬，劉誌丹前往綏德，參加中共陝北特委第三次擴大會議。這次會議決定，繼續開展“兵運”工作，條件成熟時實行兵變，建立獨立的革命武裝。會上成立了中共陝北行動委員會軍事指揮部，謝子長、劉誌丹分別任正副總指揮。會後不久，劉誌丹請求辭去陝北特委軍委書記職務，仍回到陝甘邊界開展“兵運”工作。
1930年9月，隴東民團軍司令譚世麟為擴充自己的勢力，請劉誌丹擔任其騎兵第6營營長，並指示合水縣太白鎮的民團軍第24營予以協助。據此，劉誌丹決定尋機收繳24營的武器，消滅這股反動勢力，拉起自己的武裝。
9月14日，劉誌丹回到家鄉保安縣永寧山，向黨組織傳達了中共陝北特委第三次擴大會議精神，研究製定了在陝甘邊界開展革命武裝鬥爭的計劃。經過反複研究，劉誌丹決定出其不意，攻打隴東民團軍駐防太白鎮的第24營，把武器較好且最反動的太白敵軍先消滅掉，以鏟除禍害，奪取武器。
駐在太白鎮的隴東民團第24營，營長黃毓麟，副營長穆壽祿，下轄3個連，第1連駐在燒坊西邊的一家騾馬店裏；第2連駐在河東黃家砭；第3連駐在離太白幾十裏以外的林錦廟，兵力比較分散，有利於各個擊破。
襲擊太白民團的行動決定後，劉誌丹精心組織，進行了充分準備，他從我黨掌握的保安縣民團中抽出些槍支、馬匹，還趕作了軍衣，旗號，將部隊帶進子午嶺的密林中，進行了戰前動員和訓練。
9月28日，劉誌丹率部向太白鎮前進。太白鎮地處陝甘交界，位於甘肅合水縣境內，是葫蘆河與苗村河的交彙處。這座滿目蒼涼的小鎮，其城池相傳為北宋慶曆年間範仲淹屯軍戍邊時所築。這個小鎮的周圍，子午嶺青山環繞，山中涓涓清溪從城邊流過，明代嘉靖年間陳霏曾題“碧落霞天”四個大字於此處山岩之上，形容太白山水的雄壯和秀麗。
當晚進入太白鎮後，劉誌丹一麵麻痹、迷惑敵人，一麵深入偵察敵情。根據太白鎮民團的情況，劉誌丹提出敵眾我寡，宜鬥智，不宜鬥力；宜速戰，不宜持久。劉誌丹決定，把營長黃有麟和第1連連長王鳳珠找在一起，以商量軍隊住宿和糧草供應問題為名，借機活捉營長黃有麟，命其下令讓部隊交槍。如果營長黃毓麟拚死抵抗，就將其擊斃。
次日一早，太陽剛出山，晨霧還沒散盡，劉誌丹帶人來到了民團1連駐地，很認真地對迎接他的王鳳珠連長說：“我們馬上要來100多人，需要些糧草，想和黃營長商量一下。”
王鳳珠端著大煙盒子，先是客氣地讓劉誌丹和黃營長上炕抽大煙，劉誌丹再三推托說不會抽，隻有黃營長上炕去。劉誌丹正盤算怎樣下手，突然外麵“叭”的響了一槍，緊跟著聽到外麵有人喊：“黃營長，你的兵叛變了”！
連長王鳳珠聽說兵變，正要掏手槍，劉誌丹抽出槍對準他的腦袋，“叭”一下子就結果了他的性命。黃營長正要從坑上起身，也被一槍結果了性命。
這時，劉誌丹舉起槍對院子裏的民團士兵大聲說：
“我們是窮人的軍隊，咱們都是受苦人，還是跟我們走吧！”
敵人的一個排長愣了一下，準備抵抗，被一槍打倒了。其他的敵人亂作一團，有的鑽進桌子底下，有的把槍甩下跑了，有的還在抵抗。雙方對打了一陣，戰鬥很快結束了。少數鑽進老百姓草堆和炕洞裏的敵人，也被搜出來了。繳了40多支槍，15匹騾馬，30頭毛驢。
消滅了王鳳珠的第1連之後，劉誌丹率部向住在黃家砭的第2連發起攻擊，2連的敵人聽到街上槍響，都衝出來向山上逃跑。劉誌丹帶人迅速追趕，又繳獲10多匹馬，8支槍，其餘的敵人跑散了。中午時分，劉誌丹帶上隊伍向林錦廟急進，活捉了第3連連長馬建有，至此，攻打民團的戰鬥全部結束。這次行動共繳獲長短槍六、七十支騾馬幾十匹。
太白鎮戰鬥打響了共產黨人在隴東地區反抗國民黨反動軍閥的第一槍，斃傷敵營長黃有麟以下10餘人，殲敵數百人，繳獲長短槍數十支、騾馬數十匹。之後，劉誌丹很快組建起了一支400餘人的南梁遊擊隊，在陝甘邊界地區開展遊擊活動。從此以後，西北紅軍開始了艱苦卓絕的開創陝甘蘇區的鬥爭。後來，劉誌丹依靠這支武裝力量，在合水、保安、安塞一帶開展遊擊戰爭，發展革命隊伍，這裏很快成為紅色革命根據地。
劉誌丹在合水縣太白鎮收繳了地方民團第24營的武器之後，他領導的遊擊隊武器裝備得到了極大改善，人數也迅速擴充，達到400多人。群眾稱他們是“劉誌丹遊擊隊”或“南梁遊擊隊”。劉誌丹對這支武裝力量進行了整編，遊擊隊共編4個連，劉誌丹任遊擊隊總指揮。他把人員分成三部分：一部分在太白活動，另一部分在華池縣南梁活動，劉誌丹自帶一部分在保安、安塞邊界活動。他們先後消滅了黃毓麟民團殘部和慶陽、合水、保安、安塞的一些民團，打了一些土豪。由於聲勢漸大，引起了反動軍閥的注意。
1931年2月中旬，國民黨軍隊從東西兩麵對劉誌丹的遊擊隊進行“圍剿”，陝北軍閥井嶽秀，隴東軍閥陳圭璋也積極配合，企圖一舉消滅這支新生的革命武裝。為了擺脫敵人，保存力量，劉誌丹率遊擊隊先向南後向東轉移，在與敵人的遭遇戰中，劉誌丹指揮遊擊隊打退了敵人一次次進攻。但遊擊隊因腹背受敵，損失嚴重，時值大雪封山，部隊彈盡糧絕，隻能找來腐爛的野果、核桃充饑，點篝火禦寒，處境極端困難。
為使遊擊隊渡過難關，劉誌丹按照陝西省委指示，與西北軍楊虎城部的騎兵旅合作，出任騎兵旅第2團團長，以圖保存實力，求得發展。劉誌丹的兵運活動引起西北軍的懷疑，遂被扣押，後在黨組織的營救下獲釋。當年6月前往平涼，在隴東軍閥陳圭璋部任新編13師直轄11旅旅長。1931年8月，劉誌丹因敵人內部出現紛爭再遭扣押，他乘著夜雨脫逃，回到了南梁地區的平定川。
1931年9月，劉誌丹把南梁地區的遊擊武裝，連同分散活動在合水、慶陽山區的民間武裝改編為黨所直接領導的南梁遊擊隊，親自擔任總指揮。並成立了中共隊委會，按照古田會議的精神，對這支部隊進行了艱苦細致的教育和改造，使之不斷成長壯大為一支活躍的革命武裝力量，為爾後組建正規的紅軍和開辟革命根據地創造了重要條件。
劉誌丹為建立革命武裝，奔走於陝甘南北，雖曆盡艱險，屢遭挫折，而仍矢誌不移，不斷尋求機會，圖謀發展。同時鍛煉和培養了一批軍事幹部，積蓄了一定的武裝力量，在群眾中播下了革命的種子，產生了巨大的政治影響。1931年10月，南梁遊擊隊與由晉西遊擊隊改稱的陝北支隊會合，兩部合編為“西北抗日反帝同盟軍”。1932年2月12日，又根據中共陝西省委決定，改編為中國工農紅軍陝甘遊擊隊。
1932年5月，陝甘遊擊隊與在黃龍山活動的第5支隊隊長閆紅彥等人率領的100餘人在梁掌堡會合，召開了具有重要意義的梁掌會議。會上，閆紅彥支持劉誌丹的正確意見，堅持團結，反對分裂，統一了思想，決定以寧、正為中心，開展遊擊戰爭，依托橋山山脈，創建陝甘革命根據地。會議選舉閆紅彥為紅軍遊擊隊總指揮，並把紅軍遊擊隊整編為兩個步兵大隊和一個騎兵大隊，劉誌丹任第二大隊大隊長兼政委。在國民黨新編11旅石英秀部特務營1連起義以後，又增編了第3大隊，此時紅軍遊擊隊充實到500餘人，軍威大振。