他從此有了安身之處，隱姓埋名過起了日子。可魯智深在寺中難守清規戒律，結果酒醉大鬧五台山，智真長老隻得讓他去投東京汴梁大相國寺安身，臨別贈四句偈言：“遇林而起，遇山而富。遇水而興，遇江而止。”
魯智深在大相國寺看守菜園，收服了附近的一夥潑皮。他在菜園中倒拔垂楊柳，並偶遇東京八十萬禁軍槍棒教頭“豹子頭”林衝，結為異姓兄弟。後來林衝遭太尉高俅陷害，被刺配滄州，魯智深不放心，一路暗中保護。在野豬林，解差董超、薛霸欲害林衝性命，魯智深及時出手，救下林衝，此後一直護送至滄州七十裏外。魯智深因而為高俅所迫，隻得逃離大相國寺。魯智深在江湖上漂泊，後與楊家將之後“青麵獸”楊誌、林衝之徒“操刀鬼”曹正等一起智鬥青州二龍山寶珠寺頭領鄧龍，就此在二龍山落草為寇。打虎英雄武鬆做了行者後，也來入夥。朝廷大將雙鞭呼延灼的連環馬陣為梁山的金槍手徐寧所破，兵敗投奔青州知府慕容彥達，於是受命攻打魯智深等人，於是有了二龍山、桃花山、白虎山三山聚義，宋江引梁山泊頭領下山增援三山好漢，後一眾人等同上梁山，魯智深方與林衝重聚。 梁山一百單八將聚齊後，排定座次，魯智深為天孤星，位列十三，為步軍頭領之首。不久，宋江在滿江紅詞中流露出希望朝廷招安之意，武鬆、李逵不快。魯智深說：“隻今滿朝文武 ，俱是奸邪，蒙蔽聖聰。就比俺的直裰，染做皂了，洗殺怎得幹淨！招安不濟事！便拜辭了，明日一個個各去尋趁罷。” 宋江等受招安後，魯智深陪同宋江，重上五台山，參禮智真長老。師父說：“徒弟一去數年，殺人放火不易！”魯智深臨別時智真長老再贈四句偈言:“逢夏而擒，遇臘而執。聽潮而圓，見信而寂。”後來，宋江奉聖命征討方臘起義軍，大戰烏龍嶺。魯智深追殺敵將夏侯成，卻迷路入了深山；得一僧人指點，從緣纏井中解脫，生擒方臘，立下大功。宋江大喜，勸智深還俗為官，封妻蔭子，光宗耀祖，智深說：“灑家心已成灰，不願為官，隻圖尋個淨了去處，安身立命足矣。”宋江又勸他住持名山，光顯宗風，報答父母，魯智深說：“都不要！要多也無用。隻得個囫圇屍首，便是強了。”宋江等凱旋，夜宿杭州六和寺。魯智深聽得錢塘江潮信，信中頓悟，徑山大惠禪師最後點評魯智深的法語是：魯智深，魯智深！起身自綠林。兩隻放火眼，一片殺人心。忽地隨潮歸去，果然無處跟尋。咄！解使滿空飛白玉，能令大地作黃金。後兩句“解使滿空飛白玉，能令大地作黃金”是佛的所為，是佛才能做到的。這個一生好打抱不平的真漢子——魯智深死後得到了超脫，成了佛。
按規定和尚是不能喝酒的，但魯智深喜歡喝酒，很難忍得住。一次喝了酒撒起酒瘋，幾十個人都按不住他。第二次喝酒，他的禍闖大了，把山腰的亭子和泥塑的金剛都打壞了，長老沒法再原諒他了。長老說：“我這裏不能留你了，我介紹你去東京大相國寺，我師弟在那兒當長老，他會安排你的。”
東京就是現在的河南開封。大相國寺的長老也不敢把魯智深放在廟裏，隻派他去酸棗門外看守菜園。這差事正適合魯智深，因為菜園裏的蔬菜常被小流氓們連偷帶搶，沒人管得住。但流氓們已經做好準備，要把新來的和尚扔進糞坑裏，給他一個下馬威。流氓們拿著禮品，假惺惺對魯智深說：“我們是街坊鄰居，特來祝賀的。”魯智深見這些人不肯進屋說話，站在糞坑邊不動，便有些疑心了。領頭的流氓過街老鼠張三和青草蛇李四跪了下來，想等魯智深來扶他們時，抓住魯智深的腳把他掀翻。但魯智深的動作更快，嗖嗖兩腳，張三和李四就掉進糞坑裏遊起泳來，這糞坑太深了。魯智深哈哈大笑，“先把他們拉上來洗一洗，再來說話。”
流氓們七手八腳救起張三和李四，他倆洗去滿身臭屎，換上同伴的衣服。魯智深把自己的出身告訴流氓們，“千軍萬馬中我都能進進出出，對付你們幾個小混混算什麼！”流氓們屁滾尿流地回去了。第二天他們殺了豬買了酒，恭恭敬敬地來請魯智深，嘴裏師父長師父短的，把魯智深奉承得好高興。正吃著唱著，聽見樹上烏鴉哇哇亂叫。張三說烏鴉叫不吉利，李四就要拿個梯子去拆烏鴉窩。魯智深看看這棵楊柳樹，說：“哪要什麼梯子。”隻見魯智深脫了衣服，露出背上的錦繡紋身（所以他叫“花和尚”）。他走到樹下，弓下身去，右手在下，左手在上，腰部一使勁，竟將柳樹連根拔起！眾人全都拜倒在地，一邊嚷嚷著：“師父不是人！”