在我國西漢時期的道家典籍《淮南子》(公元前150年)中就有關於硫磺的記載。成書於公元前後的《神農本草經》，將硫磺和硝石作為可治病的上品藥物列了出來。西漢時淳於意還曾用硝石治療王美人的疾病。煉丹家們又在他們長期的煉丹實踐中將硝石、硫磺、雄黃和鬆脂、油脂、木炭等材料不斷地混合、煆燒，這使火藥的發明成為必然。
硝石，古人又寫作消石，意思是它是一種能夠消化各種石頭的東西。隋唐時期，煉丹家們已經認識了它的焰色反應。例如，二部叫做《九鼎丹經決》的丹道經典就記載說：
“燒之紫青煙起，仍成灰，不沸無汁者是硝石也。”說硝石燃燒時的火焰呈現出紫青色，並把這一點作為硝石與樸硝、芒硝的重要區別之點。“不沸”而又“成灰”，表明其中的硝酐具有較強的氧化作用，這是它跟硫酸鹽、鹽酸鹽的重大區別，燃燒時出現的紫青色火焰，是鉀離子的焰色。從現在的化學知識來看，用這兩條來辨認硝石(KNO3)，是十分科學的。
煉丹家們還對硫磺的各種特性進行了“實驗”觀察和研究，他們發現，硫不僅能和銅鐵起化合反應，而且能製服神奇的水銀(汞)。硫的化學性質非常活潑，很容易著火，跟空氣中的氧起化合反應，這使人們很難製服它。古人為了馴服它這種暴烈的性格，就嚐試著對硫磺進行“伏火”處理。
“伏火”原本也是一種療除疾病的方法，煉丹家們根據中醫理論中的陰陽、五行和髒象經絡之說，認為硝石和硫磺都是陽物(因為它們都能著火)，會有陽火之毒，能敗人五髒。
為了使人服食之後不僅沒有任何毒性，而且能滋潤五髒，使人體內五髒之氣和合混融，助益長壽，就必須設法製伏火毒，這就是“伏火”。“伏火”的具體方法也很簡單，就是“以毒攻毒”，用火燒一下，火毒也就自然被消除。當然也還有其他的伏火法，而隻有一種伏火法對火藥的發明起到了決定性的作用。
關於黑火藥配方和燃燒的最早記載，出自唐代初年著名中醫、“藥王”、養生家兼煉丹家孫思邈所著的《丹經內伏硫磺法》一書。這也是世界上最早的輕工業火藥原始配方的記載。它描述了對硫磺的伏火方法：把沙罐或銷銀鍋埋進土裏，罐口或鍋口與地麵平，周圍要用土夯實，把硝、硫各二兩放進去。然後用火燒皂角子三杖，不要燒成灰，而燒成炭就行，再一個個放入罐或鍋中。這時，剛剛燒過的皂角子帶著餘火與硝石和硫磺接觸，硝和硫就會自動燃燒起來。等待焰煙冒完之後，用木炭堆到罐口上加熱，就得到了一副黑火藥的配方。這裏，黑火藥的三種主要成分都已齊備：硝、硫和炭。隻因為炭沒有研碎，並與硝、硫充分均勻混合，因此反應不夠劇烈，加之“伏火”的目的在於防止和避免發生劇烈的燃燒和爆炸，一些措施也隻使反應出現燃後冒出紫青焰火的結果。後來，人們逐漸從避免爆炸到有意識地利用爆炸，摸索出各種黑火藥的配方，形成了一個獨具特色的黑火藥體係。
在孫思邈之後，唐代一位叫鄭思遠的丹家撰寫了一部《元真妙道要略》的丹道典籍，記載著這樣的一種火藥製法：
“以硫磺、雄黃合硝石並蜜燒之。”就是用硝石、硫磺、雄黃和蜂蜜在一起燒煉。因為蜜作為有機物，含有豐富的碳元素，它又是半液體的流質物，能夠和硝石、硫磺充分均勻地混合，燒煉時突然起火爆炸。“焰起燒手麵及燼屋舍。”烈焰猛烈衝起來，燒壞了人的雙手和麵部，並衝上屋頂，燒毀房梁。這表明，充分均勻混合的硝、硫和炭能夠發生劇烈的爆炸反應。至此，黑火藥的典型配方和它的巨大威力就被中國人掌握了。
其實，在煉丹爐中發現這種爆炸現象，要比這一發明和發現的記載早得多。例如《太平廣記》一書就記載著，隋朝初年，一個叫杜子春的人去拜訪一位煉丹老人，半夜時被兩聲巨響驚醒，看到煉丹爐有“紫煙穿屋上”，房屋頓時著起火來。這很可能是煉丹時配製藥方，無意識地造成火藥配方，不小心引起的燃爆現象。
火藥就這樣誕生了，它是我國古代人民在指南針、造紙術和雕版印刷術的發明之後，對人類文明所做出的又一重大貢獻。“四大發明”至此已基本完成。