张陵，字辅汉，西汉开国大功臣张良的第十世孙《汉天师世家》记载：良生不疑、不疑生高、高生通、通生无妄、无妄生里仁、里仁生皓、皓生纲、纲生大顺、大顺生道陵。汉光武建武十年生于丰县阿房村，出生前，其母梦见魁星下降，感而有孕。张祖五月十八日生，出生时满室异香，整月不散，黄云罩顶，紫气弥院。自幼聪慧过人，七岁便读通《道德经》，天文地理、河洛谶纬之书无不通晓，为太学书生时，博通《五经》，后来叹息道：“这些书都无法解决生死的问题啊！”于是弃儒改学长生之道。张祖二十五岁，曾官拜江州令。而他却身在朝政，志慕清虚，不久就隐居到洛阳北邙山中，精思学道，修炼三年，有白虎口衔玉符而至其所。永元（公元89年）初年，汉和帝赐为太傅，又封为冀县侯，三次下诏，张祖都婉拒了，他对使者说：“人生在世，不过百岁，光阴荏苒，转瞬便逝。父母隆恩，妻妾厚爱，也随时而消失。君臣之恩，谁见长久？请转告圣上，只要清静寡欲，无为而治，天下自然大定，要我何用？我志在青山中！”为了避开京都近郊的俗务嘈杂和骚扰，张陵决心云游名山大川、访道求仙去了。
张陵先是南游淮河，居桐柏太平山，后与弟子王长一起，渡江南下，在江西贵溪县云锦山住了下来。此地山清水秀，景色清幽，为古仙人栖息之所，张祖就在山上结庐而居，并筑坛炼丹，三年而神丹成；龙虎出现，故此山又称龙虎山。时年张祖六十岁，后又移居四川鹤鸣山，感石鹤长鸣。
传说太上老君降临蜀地，传授张祖《太平洞极经》、《正一盟威二十四品法箓》、三五都功玉印、雌雄斩邪剑等经书、法器，拜为天师，嘱咐天师广行正一盟威之道，扫除妖魔，救护生民。不久八部鬼帅各领鬼兵共亿万数为害人间，他们带来各种瘟疫疾病、残害众生。张道陵于是在青城山上设下道坛，鸣钟扣罄，呼风唤雨指挥神兵和这些恶鬼大战。张道陵站立在琉璃座上，任何刀箭一接近他就立刻变成了莲花。鬼众又放火来烧，真人用手一指，火焰又烧了回去。鬼帅一怒又招来千军万马重重包围，不料真人用丹笔一画，所有鬼兵和八大鬼士都纷纷叩头求饶。但是他们口服心不服，回去后又请来六大魔王，率领鬼兵百万围攻青城山。张道陵神闲气定，不为所动，他只用丹笔轻轻一画，所有的鬼都死光了，只剩下六大魔王倒在地上爬不起来，只好叩头求饶。张道陵再用大笔一挥，一座山分成两半把六个魔王困在里面，动弹不得。于是魔王只得答应永世不再为害人间。从此妖魔降服，人民安乐，至今青城山仍留有天师与众鬼帅战斗的誓鬼台、鬼界碑等古迹。
天师降妖伏魔，救护众生，蜀地的人民都非常感动，都愿意听受天师教化。于是天师设立二十四治，广收门徒，教化于民。
张道陵先退隐北邙山修道，后得黄帝九鼎丹经，修炼于繁阳山，丹成服之，得分形散影之妙，通神变化，坐在立亡，每泛池中，诵经堂上，隐几对客，杖藜行吟，一时并赴，人皆莫测其灵异也。后于万山石室中，得隐书秘文及制命山岳众神之术，行之有验。闻蜀民朴素纯厚，易于教化，且多名山，乃将弟子入蜀，于鹤鸣山隐居修道。既遇老君，遂于隐居之所备药物，依法修炼，三年丹成，未敢服饵，谓弟子曰，神丹已成，然未有大功于世，须为国家除害兴利，以济民庶，然后服丹即轻举，臣事三境，庶无愧焉。老君寻遣清和玉女，教以吐纳清和之法，修行千日，能内见五脏，外集外神。六天妖魔，尽被降伏。先时蜀中魔鬼数万，白昼为市，擅行疫疠，生民久蒙其害，自六天大魔被降之后，张道陵斥其鬼众，散处西北不毛之地，与之为誓曰，人主于昼，鬼行于夜，阴阳分别，各有司存，违者正一有法，必加诛戳。于是幽冥异域，人鬼殊途，大利蜀民。
张道陵有弟子三千人，真正得其传的只有三人：一为王长，一为赵升，一为其子张衡。王长长期跟随师傅，擅长天文之学，精通黄老之术，深得张道陵赏识。而赵升能得师傅道法，却有一段来历：张天师在鹤鸣山炼丹己成，并服了半剂丹药，成为“地仙”之后，他看到身边弟子，多为俗态未除，不足以附托宣教任务，将九鼎大要，留得奇人。后来，有一年上令之日，从东方来了一位冰胎玉质、道貌安然的青年，名叫赵升，天师一眼看出定是奇人，欲收为弟子。为了考查赵升的道心程度，张道陵曾七度验试，结果，发现他拒绝财色，忍辱负重，怜悯天下穷人，恪守正一道规，称得上满意。七试之后的一天，张道陵带领众弟子，登上云台峰绝崖，崖下一棵桃树，红色果实累累。大家见了，莫不心动，但要想获取，却又退缩三分，天师见此情状，二话没说，欲纵跃崖下采摘大桃，众弟子一拥而上，拦住师傅，只有王长、赵升二弟子，木然不动，黙然不语。谁知众弟子未阻拦住，张天师分开众人，朝桃树方向一跃而下，众弟子齐站崖边，俯身下瞰，却不见师傅踪影，一时惊骇悲啼，面面相觑，无奈之下，失望而归。
一日，在北岳嵩山遇绣衣使者告诉他说：“中峰石室内，藏有《三皇秘典》、《黄帝九鼎丹书》，得而修之，可以升天！”于是张道陵斋戒而入石室，果然得到丹经道书，遂赴云锦山（即龙虎山），精思修炼，而得分形散影之术。
又一日夜半似醒似梦之间，忽见那太上老君下降，对张道陵说：“近来蜀中有六大魔王，狂暴生民，你前往治之则功德无量，名录丹台矣！”乃授以“正一盟威符箓”，三五斩邪雌雄剑、阳平治都功印、平顶冠、八卦衣、方裙、朱履等。以千日为期，约会于阆苑。
张道陵拜领老君所授，日昧秘文，能集三万六千神灵、千二百之官君，以供驱使。他随即往青城山，置琉璃高座，左供元始天尊，右供三十六部尊经，立十绝灵幡，鸣钟叩磬，布龙虎神兵，施起法力。
魔王鬼帅同声哀求，尽被折服，表示再不敢虐民。张道陵乃收八部鬼神，降伏六天魔王，群妖乃灭表绝迹。他则遂与弟子王长、赵升往今四川省苍溪县境的云台卜居其地继续修炼。
既伏妖魔，老君乃命使者下降来告道：“子之功业合得九真上仙之位，但灭鬼过多，未免杀气秽空，非大道好生之旨。子须再修三千六日，吾待子于上清八景宫中。”于是道陵乃偕弟子王长、赵升复往今四川省苍溪县境的云台山，精修二十余年。
永寿元年正月，据说太上老君与众真复降，为张道陵说：“北斗延生真经”及“三八谢罪法忏”。永寿二年春，会三界万神于青城山黄帝坛下，盟五岳四渎，立二十四治，福庭鬼狱。定三十会真坛与六十通真靖，七十二福地，命人处明阳、鬼处幽阴，各治设祭酒与男官、妇官，以赞玄化。其时，道教始有正规教团组织。 张道陵率弟子复游各地，斩妖巷孽、夺盐池，建功立德，造福蜀民。据称，功成后蒙太上老君册封为正一天师。