黃賓虹24歲這一年赴揚州，借住在家族的一個遠親家裏。這家世代為官，收藏了不少宋元名家的山水畫真跡。黃賓虹如獲至寶，終日臨摹。揚州生活是陌生而又親切的。“揚州八怪”已經成了背影未遠的繁華往事，金農的梅花漆書、鄭板橋的墨竹八分書、汪士慎的梅花草書……揚州的園林、古琴……揚州的詩歌——李白有詩句：“故人西辭黃鶴樓，煙花三月下揚州。”杜牧有詩句：“十年一覺揚州夢，贏得青樓薄幸名。”梁殷雲有詩句：“腰纏十萬貫，騎鶴下揚州。”徐凝有詩句：“天下三分明月夜，二分無賴是揚州。”——揚州有“二分明月樓”，這名字真好，好得讓人不忍大聲呼出。唐代徐凝詩名不大，但這兩句稱得上千古絕歎。趙孟頫則有“春風閬苑三千客，明月揚州第一樓。”經人介紹，黃賓虹在揚州兩淮鹽運使程桓署內做錄事，辦理文書。
關於黃賓虹在揚州的這段經曆，揚州中國雕版印刷博物館、揚州博物館館長顧風說：“當時對於年輕的黃賓虹來說，可以選擇的地方很多。特別是開封不久的上海，新興工業正處在一個蓬勃發展的無錫，包括杭州，但是為什麼選擇揚州，我覺得這是一種必然。因為自古以來安徽和揚州屬於一個行政區，所以在風俗習慣、環境上有著一種千絲萬縷的聯係。為什麼揚州會成為徽商的天下？這個跟地域是有很大關係的。出來闖蕩是徽州的一個傳統，年輕人要讓他盡早在社會環境中去成長，去發展。因為當時有相當多的徽籍人士在揚州，大部分從事跟鹽有關的職業。黃賓虹到揚州來，首先他有各種各樣的社會關係，容易站住腳。當然，年輕的黃賓虹他也有對藝術學習的渴望。當時的揚州正處在一個已經衰落下去的競爭當中，一盆熊熊燃燒的火正在慢慢熄滅。揚州這個中國封建社會發展繁榮、經濟文化重要的城市，對黃賓虹的藝術學習和發展提供了得天獨厚的條件。“黃賓虹有機會到一些舊家族去觀賞他們的收藏，這個對於黃賓虹來講也非常重要。揚州的經曆對於黃賓虹來講，不僅對於後來的人生發展提供了很多重要的經驗，而且他的眼界，他的藝術方麵的熏陶，對他後來的藝術發展也有很大的幫助。“處在一個已經衰落的揚州，‘海上畫派’在上海已經崛起，揚州相當一批畫家到上海去賣畫，加入到‘海上畫派’的行列中去。盡管如此，揚州當時還有大量的畫家，筆根不錯，靠自己的藝術來謀生。試想這麼一個城市，這麼一種文化藝術的氛圍，對年輕的黃賓虹來講是很震撼的，對他藝術方麵的滋養、文化方麵的熏陶，都是極為重要的一筆寶貴財富。”
《黃賓虹年譜》記載：“時鄭珊、陳崇光均在揚州，公利用公餘時間，分別從鄭學山水，從陳學花鳥。”鄭珊，年少時以賣蒸糕為生，所作山水皆古秀雄健，筆意蒼厚。偶寫花卉，亦有韻致。授黃賓虹“實處易，虛處難”六字畫訣。黃賓虹後來曾在《古畫微》書中評介鄭珊：“山水筆力堅凝，設色靜雅，此近古中之尤佼佼者也。”陳崇光，字若木，初為雕花工，後為虞蟾弟子。虞蟾被稱為“太平天國第一畫家”。陳崇光隨虞蟾同在天京（今南京）繪製壁畫，太平天國失敗後返回揚州。工花鳥、人物、草蟲、山水，尤長雙鉤花卉，為當時揚州大家。陳崇光50歲左右不幸得了瘋癲病，加上喪妻之痛，終日浪蕩在外，作畫愈趨蒼老。58歲即在瘋癲折磨下去世。黃賓虹受其影響至深，謂之“舉清末維揚畫界佼佼者，僅陳若木一人而已”。黃賓虹後來寫有《近數十年畫者評》，對陳若木做過詳盡介紹，還收藏有陳若木的《貓蝶黃菊圖》《梅花》《花卉》等畫作。在程桓之子程虁引薦下，黃賓虹得以觀賞到一些揚州收藏家所藏書畫。並先後廉價購得舊書畫近三百件，多為明代名跡。黃賓虹曾記載，揚州當時舊書畫便宜，即便石濤、雲林之作，索價多在十元左右，尺幅冊頁之類，每元或能易得二三葉。然而，官場中的勾心鬥角實在讓他難以容忍，隻得辭職。有詩：“揚州小錄事，拂袖歸去來。”