相傳在永平二年，張道陵赴“直言極諫科”而中之，漢明帝時拜巴郡江州令，在今重慶地界。不久退隱北邙山中，今河南洛陽附近中，修持煉形合氣，辟穀少寢長生之道。
建初五年詔舉賢良方正不起，複征為博士，封冀縣侯，三詔不就。後入吳，又愛蜀中溪嶺深秀，遂入蜀隱於鶴鳴山，修神丹符咒之術。
張道陵有弟子王長、趙升隨其習黃老之道，助煉龍虎大丹，丹成，服之返老還童，且去遊而參訪仙源。
一日，在北嶽嵩山遇繡衣使者告訴他說：“中峰石室內，藏有《三皇秘典》、《黃帝九鼎丹書》，得而修之，可以升天！”
於是張道陵齋戒而入石室，果然得到丹經道書，遂赴雲錦山，也就是龍虎山，精思修煉，而得分形散影之術。
在張道陵功成之時，一日夜半似醒似夢之間，忽見太上老君下降，對他說：“近來蜀中有六大魔王，狂暴生民，你前往治之則功德無量，名錄丹台矣！”
過後，老君便授他以“正一盟威符籙”，三五斬邪雌雄劍、陽平治都功印、平頂冠、八卦衣、方裙、朱履等。以千日為期，約會於閬苑。
張道陵拜領老君所授，日昧秘文，能集三萬六千神靈、千二百之官君，以供驅使。他隨即往青城山，置琉璃高座，左供元始天尊，右供三十六部尊經，立十絕靈幡，鳴鍾叩磬，布龍虎神兵，施起法力。
魔王鬼帥同聲哀求，盡被折服，表示再不敢虐民。
這是張道陵出手鬥法最廣為流傳的一事，也就是說在東漢順帝年間某夜，太上老君降臨在他住的地方，授給他雌雄劍和許多符籙，要他誅滅橫行四川的六大魔王、八大鬼帥。張道陵精修千日，煉成了種種降魔的法術。
而在不久八部鬼帥各領鬼兵共億萬數為害人間，他們帶來各種瘟疫疾病、殘害眾生。張道陵於是在青城山上設下道壇，鳴鍾扣罄，呼風喚雨指揮神兵和這些惡鬼大戰。
張道陵站立在琉璃座上，任何刀箭一接近他就立刻變成了蓮花。鬼眾又放火來燒，真人用手一指，火焰又燒了回去。鬼帥一怒又招來千軍萬馬重重包圍，不料真人用丹筆一畫，所有鬼兵和八大鬼士都紛紛叩頭求饒。
但是他們口服心卻不服，出爾反爾。回去後又請來六大魔王，率領鬼兵百萬圍攻青城山。張道陵神閑氣定，不為所動，他隻用丹筆輕輕一畫，所有的鬼都死光了，隻剩下六大魔王倒在地上爬不起來，隻好叩頭求饒。
緊接著張道陵再用大筆一揮，一座山分成兩半把六個魔王困在裏麵，動彈不得。於是魔王隻得答應永世不再為害人間。
此後張道陵得以收八部鬼神，降伏六天魔王，群妖乃滅表絕跡。他則遂與弟子王長、趙升往今四川省蒼溪縣境的雲台卜居其地繼續修煉。
而張道陵既然已經降伏妖魔，老君便命使者下降來告道：“子之功業合得九真上仙之位，但滅鬼過多，未免殺氣穢空，非大道好生之旨。子須再修三千六日，吾待子於上清八景宮中。”