不久，盧甘斯克也麵臨著被德奧軍包圍的形勢。他率領部隊掩護80列火車由頓河草原向察裏津撤退。此時，他已被任命為第5集團軍司令，指揮兩個軍和由莫羅佐夫軍區與頓涅茨克軍區居民組編的部隊。在這裏，他指揮的部隊不僅對入侵烏克蘭的德奧軍隊進行了有組織的抵抗，而且與頓河哥薩克白匪軍苦戰了三個月，到達察裏津與蘇軍主力會合。
1918年的察裏津保衛戰，成為保衛新生蘇維埃政權的最重要戰役之一。伏羅希洛夫率部從頓巴斯突破封鎖來到察裏津之後，大大加強了察裏津市的防禦力量。7月19日，伏羅希洛夫到剛建立的北高加索軍區軍事委員會任副主席，同時擔任了察裏津前線司令、南方方麵軍副司令。為了有充足的兵員，他派人到農村動員可靠分子參軍，並加強了對部隊的訓練。為了適應大兵團作戰，他把零散的遊擊部隊編成正規兵團；為了對付機動性強的哥薩克騎兵，他組建了幾個用大量機槍和火炮裝備的加強師；為了支持步兵和騎兵作戰，他組建了裝甲縱隊。所有這些措施，進一步加強了察裏津的防衛。蘇軍在伏羅希洛夫的指揮下，打退了敵人的數次進攻，顯示了他卓越的指揮才能。
1918年11月，他當選為烏克蘭工農政府委員、烏克蘭共和國內務人民委員、哈爾科夫軍區司令。1919年5月，他領導了格裏戈裏耶夫的剿匪作戰。6月，出任第14集團軍司令。不久，指揮了卡捷林諾斯拉保衛戰。後任烏克蘭內線司令，指揮了基輔保衛戰。
伏羅希洛夫和布瓊尼一樣認為，大批騎兵部隊機動靈活而且威力巨大，蘇聯紅軍必須組建一支相當規模的騎兵集團軍。於是，當布瓊尼向中央提出這一建議時，他表示完全讚同。1919年11月，伏羅希洛夫便被任命為第一騎兵軍的軍事委員。布瓊尼在回憶中說道，伏羅希洛夫“是領導全軍作戰的核心人物之一”。“騎兵部隊的特殊組成要求任命不僅具有一般政治聲望，而且要多少以自己的軍事生涯聞名於眾，享有一定威信的人。”伏羅希洛夫率領這支部隊粉碎了鄧尼金軍隊的進攻。從波蘭白軍手中解放了烏克蘭，消滅了弗蘭格爾的部隊。
此後，伏羅希洛夫在蘇聯紅軍中做了相當長一段時間的黨政工作。從1924年起任莫斯科軍區司令。與伏龍芝等人一起參與領導了軍事改革。1925年至1934年，他升任陸海軍人民委員和蘇聯革命軍事委員會主席。此後又擔任了6年蘇聯國防人民委員，為加強蘇軍建設花費了大量心血。
衛國戰爭一開始，他就直接參加了粉碎德軍進攻的組織工作，先後擔任國防委員會委員、最高統帥部大本營成員、西北方麵軍總司令和列寧格勒前線司令、遊擊隊總司令等職。但由於他對戰爭的認識在一些方麵仍停留在騎兵時代，對當代戰爭中的新情況認識不足，所以在第二次世界大戰中戰績一般，未能像在國內戰爭中那樣得到人們的高度讚譽。
第二次世界大戰結束後，他於1945—1947年出任盟國對匈牙利管製委員會主席。1952—1960年為蘇共中央委員會主席團委員，1953—1960年任蘇聯最高蘇維埃主席團主席。1961年10月在蘇共二十二大上，因被指責為支持反黨集團而未進入新的中央委員會。1966年4月蘇共二十三大後，重新當選為中央委員。1969年12月2日病逝。