上官桀原是漢武帝的一名衛士,力大無比。一次武帝乘車出行,雨急風大,車子難行,便將支撐在車上的車蓋卸下來交給他。他雙手擎起碩大無比的車蓋,頂著狂風,追隨在漢武帝的車旁,為武帝遮雨。武帝驚異於他的神力,便將他提升為掌管宮中禦馬的廄令。後來,年老的漢武帝病了一段時間,上官桀便對飼馬之事懈怠下來。不久,武帝病愈回宮,見到禦馬全都瘦了,不由大怒道:“你莫非以為我不會再見到這些馬了嗎?”上官桀十分機敏,立刻伏地叩頭道:“臣得知陛下聖體不安,日夜憂懼,哪裏還有心思照料馬!”邊說還邊擠出幾滴淚水來,武帝以為他的確衷愛自己,不但沒有降罪,反而將他升了官,成了朝中的九卿之一。武帝死時,又指定他為輔佐幼主的顧命大臣。