甘茂是楚國下蔡（今安徽省鳳台縣）人，年輕時曾經向下蔡的史舉先生學習諸子百家的學說。後來，他通過張儀和樗（chū）裏子拜見了秦惠王。秦惠王一見到他就非常喜歡，任命他為將領，協助大將魏章平定了漢中地區。秦惠王去世後，秦武王繼位。秦國派遣甘茂去平定叛亂的蜀國。甘茂出色地完成任務之後，秦武王任命甘茂為左丞相，樗裏子為右丞相。
秦武王三年，秦武王對甘茂說：“我平生最大的願望，是乘坐著有帷帳的車子，經過伊水、洛水和漢水這三川，前往周朝看一看。如果能辦到，我這一生也就死而無憾了。”甘茂便說：“我明白了。我請求大王派我到魏國去，與魏國商討共同討伐韓國的宜陽（今河南省洛陽市）一事。並請大王派向壽與我同行。”秦武王同意了。甘茂到了魏國，就對向壽說：“你現在就回去，告訴大王說，魏國已經聽從了我，但希望大王不要對韓國出兵。這事情成功後，所有的功勞都會歸你的。”向壽便馬上回國，把甘茂的這番話轉告給了秦武王。秦武王不解其意，便親自來到息壤來迎接甘茂的返回。甘茂一到，秦武王便忙不迭地問他。
甘茂說：“韓國的宜陽是一個大縣，上黨（今山西中部地區）和南陽的曆史也已很悠久了。這些地方名義上叫做縣，實力其實比一個郡還要厲害。大王如果出兵，越過千山萬水去攻打它，很難成功！我記得從前曾參住在費邑的時候，魯國恰巧有一個同名同姓的人殺了人。有人跑到曾參的母親那兒，說‘曾參殺了人’，曾參的母親繼續顧自織布，神情鎮定自若。過了一會兒，又有一個人跑到曾參母親那兒，說‘曾參殺了人’，曾參的母親仍然鎮定自若。但等到第三個人跑來說‘曾參殺了人’，曾參的母親就扔了織布的梭子，逾牆逃走了。曾參如此賢能，母親對他又是如此的信任，但因為有三個人懷疑他，他母親也就害怕了。如今我的賢能遠遠不如曾參，大王對我的信任也不如曾參母親對曾參那樣信任，造我謠的人又不止三個，我真擔心大王總有一天，因不再信任我，會像曾參母親那樣扔梭子。當初張儀向西吞並了巴、蜀，向北開拓了西河以外的地區，向南奪取了上庸，但天下人並不因此而讚美張儀而是說先王賢明。魏文侯派大將樂羊率兵攻打中山國，花了三年時間攻下了它。樂羊班師回朝後想爭功，魏文侯卻給他看了滿滿一箱子的誹謗信，樂羊就趕緊說‘攻下中山國不是我的功勞，而是得力於君主’。可如今，我還是一個流落於異鄉的臣子。樗裏子和公孫奭（shì）等重臣仰仗韓國的勢力非議我，大王一定會聽信他們，命我收兵。這樣一來，我既違背了與魏王的約定，欺騙了魏王，還要受到眾人的埋怨。”秦武王這才明白了甘茂的擔憂，是害怕得不得自己的信任，而影響自己在朝中的應有地位。秦武王趕緊說：“我不會輕易聽信他們的，我還可以對你發誓。”
秦武王終於派甘茂率兵攻打韓國的宜陽，但花了五個月時間依然沒能攻下來，樗裏子和公孫奭果然已在非議這件事。秦武王召見甘茂，想撤兵。甘茂問他：“還記得在息壤我們是怎樣講定的？”秦武王便收了口，再增派了軍隊。甘茂集中兵力大攻宜陽，斬獲韓國將士首級六萬，把宜陽攻下了。無奈之下，韓襄王派大臣公仲侈來秦國賠罪求和。