王彥升是蜀地人，後唐時徙家洛陽。
他以勇武著稱，善擊劍，號“王劍兒”。但他“性殘忍多力”，心狠手辣。在他後來擔任原州防禦使期間，曾抓到一犯法者，王彥升不對此人加刑，而是召僚屬飲宴，用手將該犯的耳朵撕下來，大嚼以佐酒。那人血流滿身，股栗不止，王彥升卻無動於衷。王彥升以人耳下酒出了名，“前後啖者數百人”。
王彥升的殘忍本性在陳橋兵變率部入京時顯露無遺。當他追趕韓通進入其宅後，不僅殺死了韓通父子，而且將宅中所有人等全部砍殺，使韓通宅屍陳遍地，血流成河。
王彥升並不認為他是錯誤的，而且以先入京師，先斬敵將自居。但他卻忘記了趙匡胤的約法，忘記了不得濫殺的鐵令，犯了“棄命專殺”之罪。
應該說，趙匡胤不治王彥升之罪純屬例外。若不是考慮到安定為本，王彥升早就成為刀下之鬼了。遺憾的是，王彥升並未感激皇帝的寬宥，反而認為皇帝偏袒韓通，誤封罪臣。當然，他不敢在皇帝麵前發泄，卻把滿腔憤怨傾注到後周降臣身上。
王彥升首先把目標對準了宰相王溥。此人在後周時即是宰相，如今又遷居相位，宋太祖對他恩重有加，這在王彥升看來簡直不堪忍受。特別使他盛怒難忍的是，王溥的父親王祚竟然也當上了宿州防禦使，掌管一方權力！王家父子曾仕後周，無功於宋，他們憑什麼官居要位？憑什麼與開國功臣比肩？王彥升想不通，他壓不下心中這口氣！
王彥升還得知，王祚善經營，有心計，廣有田宅，家累萬金，這也使王彥升嫉妒得要死。嫉妒可以使人喪失理智。嫉火燒得王彥升再也按捺不住了。他決定上奏天聽，參倒王溥。他冥思苦想捏造了如下罪狀：王溥心懷不軌，以舉薦後進為名呼朋引類，培植黨羽，企圖組織起自己的勢力，恢複後周王朝。王家父子厚埴家財也是別有用心，他們妄想以此招兵買馬，東山再起。王彥升在奏章中還著重提到當初與範質匆匆派趙匡胤北征契丹之事，編造說，那是範、王二人合謀，調虎離山，以期控製後周幼帝，挾天子以令諸侯，借皇帝之手以擁兵叛逆之罪將趙匡胤殺死。後來，趙匡胤領兵還京，王溥陰謀未能得逞，才後悔不迭，痛失良機……
王彥升將奏章寫好上呈之後，心中的盛怒才略微平息了些。他幸災樂禍地等待著皇帝的批複，等待著王溥的貶官破家，或以十惡不赦之罪被處死。王彥升甚至令人準備好了美酒，打算在那一天到來的時候痛飲一番！
然而，日子一天天過去，奏章卻如泥牛入海，杳無音信。王彥升又不便去打聽，便鬱鬱不歡地到恩州上任去了。
關於王彥升這道劾奏的下落後人無從知曉，王彥升本人更是始終蒙在鼓裏。因為宋太祖趙匡胤毫不介意地束之高閣、忘在腦後了。宋太祖不相信王溥會有異圖，倒是認為王彥升心懷嫉妒，故意捏造。因為他了解王溥，更了解王彥升。他知道，王溥等人對官居原職是十分感激的，他的一言一行根本看不出有什麼貌合神離的跡象。況且，王溥本是一介文臣，雖有高職，並無多少實權，又不掌握軍隊，能有什麼作為？而王彥升則不同。此人是武將出身，凶殘成性，若得機會，他是什麼事情都能幹出來的。出於這樣一種想法，宋太祖在王彥升劾奏王溥之後不僅不疑王溥，卻對王彥升多了幾分戒心。
也許是因為不放心王彥升遠離京師、獨自掌握一部分權力的緣故，宋太祖在讓王彥升出任恩州團練使不久又將他調回京師，讓他擔任鐵騎左廂都指揮使。
宋太祖將王彥升調至京師擔任禁軍將領可便於約束。王彥升統轄的這支部隊主要是在京城巡邏，保衛京師的安全，這談不上是對王彥升的重用。事實上，宋太祖對王彥升擅殺韓通一直念念不忘，認為此等五代軍將的惡劣作風決不可長，所以對王彥升一直是限製使用，“終身不授節鉞”。