張湯對於高官，非常小心謹慎，常送給他們的賓客酒飯食物。對於舊友的子弟，不論為官的，還是貧窮的，照顧得尤其周到。拜見各位公卿大夫，更是不避寒暑，因此，張湯雖然用法嚴峻苛刻不公正，卻由於他的這種做法獲得了很好的聲譽，而那些嚴酷的官吏像爪牙一樣為他所用者，也依附於有文才學問的人。丞相公孫弘多次稱道他的優點。在處理淮南、衡山、江都三王謀反的案件時，都窮追狠治，徹底審理。武帝欲釋放嚴助和伍被。張湯與武帝爭論說：“伍被本來就曾謀劃反叛之事，而嚴助親近交結出入皇宮的陛下近臣，私自交結諸侯亦如此類，不加懲處，以後將無法處治。”武帝因此同意將伍被、嚴助治罪，他以審理案件排擠大臣作為自己功勞的表現，多像這樣。從此，張湯更加受到尊崇信任，晉升為禦史大夫。
田甲本是張湯當小吏時的朋友。他見張湯的權勢太盛，就指出其過失，告誡他不要結怨太多。但是張湯卻不以為然。後來，他當了7年的禦史大夫，果然遭到殺身之禍。
河東郡人李文曾與張湯有隔閡，不久擔任禦史中丞。為了泄憤，多次在上奏的文書中尋找對張湯不利的證據，都沒有得逞。張湯有個心愛的屬吏名魯謁居，知道張湯對李文不滿，便指使他人上奏影射李文有圖謀不軌的奸邪之事，武帝將此事交給張湯處理，張湯將李文處以死罪。實際上他心裏明白此事是魯謁居所為。武帝問起這件事說：“告發李文圖謀不軌的事是怎麼引起的？”張湯假裝吃驚地說：“這大概是因李文以前的熟人怨恨引起的。”
這時有人盜走了孝文帝陵園的下葬錢，丞相莊青翟上朝，與張湯相約一起謝罪。到了武帝麵前，張湯暗想，隻有丞相在四時到各皇陵拜祭，此事隻應由丞相請罪，他自己並不參與其事，沒有必要承擔責任。丞相謝罪後，武帝派禦史審查這件事。張湯還想奏報說丞相知道盜錢之事，丞相莊青翟深感恐懼。於是，丞相府的三位長史因此準備打擊張湯，以罪名陷害他。他們派屬吏逮捕審訊了張湯的友人田信等，說張湯向武帝奏報提出建議，田信都事先知道，因此囤積取利，與張湯平分，他們還說張湯有其他奸邪之事。這些話很快傳到武帝那裏，武帝問張湯說：“我有什麼打算，商人都事先知道，加倍囤積貨物，這都是因為有人把我的計劃告訴了他們。”張湯聽後，沒有謝罪，還驚訝地說：“肯定是有人這樣做。”武帝果然認為張湯心中險詐，當麵撒謊，派使臣帶著簿籍以8項罪名指責張湯。張湯一一予以否認，不服。於是武帝又派趙禹責備張湯。趙禹見到張湯後，責勸張湯說：“你怎麼還不明白呢？你審訊處死了那麼多人，如今人們指控你的事情都有根據，聖上想讓你自己趕快妥善處置自己，好平息這些案子。你又為什麼要多次對證呢？”張湯這才明白了皇帝的心意，於是上疏謝罪說：“張湯沒有尺寸的功勞，從刀筆吏起家，因得到陛下的寵幸而官至三公，沒有任何可開脫罪責之處，然而陰謀陷害張湯的，是丞相府的三位長史。”於是自殺身死。
張湯死後，家裏的財產不超過五百金，都是得自皇上的賞賜，沒有其他產業。他的兄弟之子要厚葬張湯。張湯的母親說：“張湯作為天子的大臣，被惡言汙蔑致死，有什麼可厚葬的！”遂用牛車裝載他的屍體下葬，隻有棺木而沒有外槨。武帝知道後說：“沒有這樣的母親，不能生下這樣的兒子。”因此將三位長史處以死罪，丞相莊青翟也被迫自殺。武帝很為張湯之死惋惜，晉升了他的兒子張安世的官職。
張湯雖用法嚴酷，後人常以他作為酷吏的代表人物，但他為官清廉儉樸，不失為古代廉吏。
公孫賀為什麼不願接受拜相
漢武帝還在做太子的時候，公孫賀做了太子舍人的官，武帝即位以後，公孫賀就被提升為太仆，位列九卿。又因為他是漢武帝寵妃衛子夫的姐夫，和漢武帝算是連襟，所以公孫賀就更加尊貴了，也益發得到了漢武帝的寵信。公元前128年，衛子夫生下了一個皇子，因而被立為皇後，從此母儀天下，無比尊貴。衛氏家族中，先後有5人得以封侯，比如衛青、霍去病。衛青是衛子夫皇後的弟弟，霍去病是衛子夫皇後的侄子，衛氏家族的勢力日益壯大，炙手可熱，權傾朝野，有遮天之嫌。鑒於這樣的情況，公元前103年，漢武帝決定拜公孫賀為丞相，封為葛繹侯。
封侯拜相，成為天子首要的輔政之臣，是天下學士朝思暮想的美事，更是眾多政客絞盡腦汁求之不得的好事。然而，公孫賀卻在朝堂上，滿朝文武準備向他祝賀的時候，拒絕了漢武帝的提拔。他哭著向漢武帝磕頭說，臣本是布衣，才能不足以擔任丞相。這樣懇切和悲戚的話語，打動了漢武帝，可同時又使漢武帝感到很掃興，但任命公孫賀為丞相的詔命已經下達了，不得隨意更改，所以，公孫賀隻得到丞相府上任去了。
那麼，公孫賀為什麼不願意拜相呢？讓我們來看一看他自己事後說的一段話，就會明白其中的理由了。