1927年5月，張大千收拾行裝，第一次遊曆黃山。
他決定去遊黃山，是受了石濤“黃山是我師，我是黃山友”的啟發，於是想：“要想學好石濤，最好也去遊曆黃山，以天地為師，在大自然中收集素材。”
張大千來到安徽南部，抵達壯美雄偉的黃山腳下。明代徐霞客曾言：“黃山歸來不看嶽。”黃山集泰山之雄偉、華山之險峻、衡山之靈雲、廬山之飛瀑於一身，被世人譽為“天下第一奇山”。但自清以來，上山的路就逐漸荒涼而艱難曲折。
張大千花錢請了幾個當地人，就走上了野草叢生、巨石攔截的小路，走走停停，一天行不了幾裏路。但他越來越癡迷於“無山不石，無石不鬆，無鬆不奇，無奇不有”的黃山。
在過最凶險的鯽魚背時，中間是一塊光禿禿的岩石，兩邊是萬丈深澗，當時有個當地人說：“張先生，我先帶一根繩子過去，然後你從這邊扶著繩子再過，到時要小心，千萬別向兩邊看。”
張大千把胡須一捋，兩眼一瞪：“嗯！你們不要小看我，不用你們的繩子，我第一個過去。”說著長袍一撩，抬腿就上。
他穩住心神，兩眼平視，腳步穩穩地走了過去。山風吹拂，他的胡須飄擺，長衫飛舞，有如神人一般。
張大千以他特有的膽量和意誌，在黃山上待了兩個多月，觀雲門，登清涼台，看人字瀑，望蓮蕊峰，畫了大量的寫生。
最美的是在黃山清涼台觀日出。這天一大早，張大千就來到了清涼台上。東方的天空漸漸地亮了起來，慢慢襯托出峰巒如斧劈刀削的剛勁輪廓。
越來越明亮的天幕，烘染出遠山近巒的層次。橘紅色的朝陽躲在雲霧裏，慢慢地閃現出一道光環，閃閃爍爍，終於跳了出來。朝暉映紅了張大千的臉，雲騰七彩，朝霞流丹。張大千伸開雙臂，要擁抱這朝陽：“啊，日出！黃山的日出！”
看過黃山日出的旭日輝煌，他再觀黃山雲海，那變幻洶湧的雲濤使他心潮澎湃；看過奇詭的黃山石和令人心旌搖動的“迎客鬆”，奇峰怪石、雲海旭日都進入了張大千的畫稿。
初遊黃山，黃山之奇，給了張大千深刻的印象，身處其間，他領悟了畫之真諦。他明白畫卷裏的山水並不等於大自然的奇峰，隻有實地觀察、深入自然，才會獲得創作的源泉和靈感。他覺得，要領略山川靈氣，不是說遊曆到那兒就算完事了，實在是要深入其間，棲息其中，朝夕孕育，體會物情，觀察物態，融會貫通，所謂胸中自有丘壑之後，才能繪出傳神的畫。
後來，張大千有兩次重登黃山，他還專門刻了一方印章：“三到黃山絕頂人”。
這個階段，張大千已經開門立派，招收門徒了。他從黃山回來後對學生說：“不到黃山，不親眼看到黃山雲海，誰會相信天地間竟有這樣的雲海，誰又畫得出這樣的雲海呢？”
他為《黃山雲海》這幅畫題詞道：
蓬池幾回幹，桑田幾番收。
誰信天地間，竟有山頭海。
從這以後將近10年的時間，張大千專心致誌地研究、創作山水畫，他筆下的黃山雲海、奇峰、鬆石，或氣勢磅礴，或俊逸清新。很多人都稱張大千為“黃山畫派”。他還與郎靜山組織了“黃社”，倡導遊黃山，一時入社會員達百餘人。
對於別人稱他為“黃山畫派”，張大千說道：
曾、李二師又以石濤、漸江皆往來於黃山者數十年，所學諸勝，並得茲山性情，因命予往遊。
三度裹糧得窮鬆石之奇詭，煙雲之幻變。延譽兩師獎譽不已，於時大江南北竟以黃山派呼予。
1929年，張大千的兩幅作品參加了第一屆全國美術展覽會。張大千繼續到名山大川遊曆、寫生，長江、富春江、莫幹山、天目山、羅浮山等無處不留下他的足跡。
這一年他進入而立之年。大江南北，人們都稱“南張北溥”，是說當時中國兩個最有名氣的畫家張大千、溥心佘。溥心佘是清皇室遺族，善畫山水畫。