其父黃思進是裱畫師，也有一手好丹青。黃葉村有機會賞識到許多書畫作品，讀私塾時就臨摹《多寶塔》、《芥子園畫傳》等名作，自幼打下堅實的書畫基礎。讀小學期間，便能為許多小店寫招牌。1926年在繁昌雜貨店學徒不久，又回家專攻書畫。1934年，到霍丘縣鬆滋小學任圖畫教師，1937—1962年，先後在太平、屯溪、歙縣、涇縣、南陵、青陽、貴池、桐城、安慶、懷寧等地中學和師範學校教美術。
黃葉村得到新安派大畫家汪福熙、汪采白父子指教，飽覽了汪家珍藏的曆代書畫真跡，目睹了皖南神奇的自然山水，再加天份高明、刻苦作畫，精研技法，淡泊名利，工詩文、精金石，善山水、美花鳥、優書法，能詩善書，能畫能刻，修養全麵，遂成大家。
葉村作書繪畫，以形寫神，書畫金石有精深造詣：兼工花鳥，各具英姿，栩栩如生；所畫山水，彙新安畫派各家之長，濃淡相宜；所寫書法，揉合篆、隸、魏筆法，獨創魏碑行書，以魏碑雄強矯健、方形大肩為基礎，加上行書的俊邁跌宕、重心沉穩、刀痕斑駁、自然天成。是繼蕭雲從之後安徽蕪湖最有成就的書畫名家！
1940年，黃葉村與農家女結婚，因家境貧寒，生女送人。1957年因所謂的“曆史問題”被懷寧師範開除留用，在山上放牛養豬。1962年退職，住不見陽光的茅草棚裏，獨子病亡，自己用板車拉去墳山埋葬……
貧困不墮其誌，他固守豁達大度、物我兩忘的精神境界，即使在煤油燈下依然堅持鑽研書畫藝術。1979年蕪湖市政府落實政策，安排他作為文聯專職畫家，並推選他為蕪湖市政協常委。1979年，任安徽文史館館員，後任安徽省美協會員、書協理事，蕪湖市政協常委，中山書畫社社長。其作品流傳到西德、美國、加拿大、日本等國家， 1980年，參加省博物館“五老畫家畫展”，1984年3月，參加中國美術館舉辦的全國民主黨派、工商聯書畫聯展及全國儲蓄書畫展。“老舍故居紀念館”收藏其“露竹”一幅；安徽省博物館收藏其“山水”、“雨竹”各1幅。 1987年5月黃老因病逝世。
1988年5月20日，安徽省博物館舉辦“黃葉村遺作展”，震動省城，被讚為“繼承和發揚新安派傳統之第一人”。 1988年11月30日，在他逝世一年之後，“黃葉村遺作展”在中國美術館展出，名動京城。《中央電視台》《人民日報》《光明日報》等媒體都做了重點宣傳，方毅、吳作人、劉開渠、沈鵬、賴少其、亞明等先生也給予了極高的讚譽，達到了黃葉村“人亡業顯”的曆史地位。《光明日報》在報導時稱“黃葉村是繼黃秋園、陳子莊之後我國又一位梵高式畫家。”
安徽美術出版社出版了《黃葉村畫集》和《黃葉村畫選》。人民美術出版社目前正在編輯出版《中國近現代名家畫集—黃葉村》，俗稱“大紅袍”，是對近現代書畫大師的最高禮遇，安徽省目前為止隻有黃葉村先生一人受此厚待。
生前譽滿江南，死後名動京城，有幾個畫家有他那樣的殊榮？有幾個畫家有他的坎坷？所以，他的作品有神韻，有詩韻，正如《人民日報》發表的評論那樣：“是畫家用情感、用思想、用情緒、用生命在擊節、在宣泄、在吟唱……”