掌握朝政的呂不韋想攻打趙國以擴張他在河間的封地，於是派剛成君蔡澤在燕國作大臣。蔡澤經過三年努力，使得燕國國君燕王喜派太子丹到秦國作人質。呂不韋準備派張唐到燕國作相國，以聯合燕國攻打趙國、擴張他在河間的封地。張唐推辭說：“我曾經替秦昭襄王攻打過趙國，因此趙國怨恨我，曾揚言‘誰要逮住張唐，就賞他百裏方圓的土地’。現在前往燕國必定要經過趙國，我不能前往。”呂不韋聽後很不高興，但沒有什麼辦法勉強讓張唐前往，於是令張唐退下。甘羅說：“君侯為什麼這般不高興呢？”呂不韋說：“我讓剛成君蔡澤事奉燕國三年，燕太子丹已經來秦國作人質，現在我親自請張唐到燕國為相，他竟推辭不去！”甘羅說：“我有辦法讓他去。”呂不韋厲聲斥到說：“走開！我親自出馬他尚且無動於衷，你還能有什麼辦法！”甘羅辯解說：“古時項橐七歲就作孔子的老師。如今我已十二歲，君侯為何不讓我去試一試，為何不由分說便嗬斥於我呢！”於是呂不韋同意讓甘羅勸說張唐。
甘羅前往拜見張唐說：“您的功勞與武安君白起相比，誰的功勞大？”張唐回答說：“白起在南麵挫敗強大的楚國，北麵施威震懾燕、趙兩國，戰則勝，攻必克，奪城取邑，不計其數，我的功勞比不上他。”甘羅問：“您果真自知功不及白起嗎？”張唐回答說：“是的。”甘羅又問：“當年執掌秦政的應侯範雎與呂不韋相比，誰的權勢更大？”張唐說：“範雎不如呂不韋的權力大。”甘羅說：“您確認範雎不如呂不韋的權力大嗎？”張唐回答說：“是的。”甘羅接著說：“當年範雎想攻打趙國，可白起阻攔他，結果範雎在離鹹陽七裏處絞死白起。現在呂不韋親自請您前往燕國任相而您執意不肯，我不知您將身死何地啊！”張唐聽後便說：“那我就因您這個童子的意見前往燕國吧。”於是讓人準備車馬盤纏，擇日起程。
張唐的行期確定下來後，甘羅便對呂不韋說：“請君侯替我準備五輛馬車，讓我先去趙國替張唐打通關節。”呂不韋就進宮把甘羅的請求報告給秦始皇說：“過去的甘茂有個孫子名叫甘羅，年紀很輕，然是名門之後，所以諸侯都知道他。最近張唐打算推病不去燕國，甘羅說服他，使他答應毅然前往。現在甘羅願意先到趙國為張唐清除障礙，請大王答應派他去。”秦始皇召見甘羅，於是派他前往趙國。
趙國國君趙悼襄王到郊外迎接甘羅，甘羅問趙悼襄王說：“大王聽說燕太子丹到秦國作人質的事嗎？”趙悼襄王回答說：“有所耳聞。”甘羅接著問：“您聽說張唐要到燕國任相嗎？”趙悼襄王回答說：“也有所耳聞。”甘羅分析說：“燕太子丹到秦國來，說明燕國不敢背叛秦國。張唐到燕國任相，說明秦國不會欺辱燕國。燕秦兩國互不相欺，沒有別的原因，就是想攻打趙國來擴大在河間一帶的領地。大王不如先送我五座城邑來擴大秦國在河間的領地，我請求秦王送回燕太子丹，再幫助強大的趙國攻打弱小的燕國。”趙悼襄王立即親自劃出五座城邑來擴大秦國在河間一帶的領地。秦國送回燕太子丹，趙國有恃無恐地進攻燕國，奪得上穀三十座城邑，讓秦國得到其中的十一座城邑。
甘羅回到秦國後，秦始皇封賞十二歲的甘羅擔任上卿（相當於丞相）之職，並將甘茂原來的田地、房宅賜給甘羅。
從此甘羅得以在秦王麵前議論天下大事，本來就是孩子，其實秦王隻是比他大幾歲。兩個孩子在一起，自然興趣相投，一次秦王和王妃下棋，那甘羅平時就討厭王妃的世故與傲氣，便在幫王妃拾掉在地下的棋子時故意捏了一下這個女人的腳，以示對她一慣驕橫的不滿。王妃對此大叫，要秦王斬了甘羅。但秦王愛才如命，就對王後解釋說：“甘羅不是故意的，是不小心才碰著而已，算了。”可甘羅一聽卻急忙一字一板地糾正說：“臣不是不小心，是故意捏她的腳的。”正如俗話所說的，“男人頭女人腳，光看不能摸”，何況甘羅不是摸而是捏，且那女人又是秦王喜愛的女人。甘羅的狂妄自大頓時讓秦始皇大怒，秦始皇下令將甘羅依律而斬。從此小甘羅便走完了自己的人生旅程。
“我要先看看他喜歡什麼，害怕什麼，然後在看準機會同他談。講話要像湖中水波一樣，隨風而變，這是不能事先決定的！”這是小神童甘羅說過的話。