後來，陳湯被免職並貶為庶人，徙居敦煌。住了幾年後，敦煌太守上書朝廷說：“陳湯曾經誅殺郅支單於，威風遠及外國，現在降為庶人，不宜住在邊塞地方。”於是又把他遷到安定（今甘肅固原縣）。議郎耿育看到陳湯處境可憐，便又上書皇帝請求成帝予以關懷、照顧。於是，成帝下詔讓陳湯遷回長安居住，不久陳湯去世。
過了幾年，王莽執政之後，又追諡陳湯為“破胡壯侯”。
投筆從戎的班超
漢明帝永平五年（公元62年），班超的哥哥班固被召入京任校書郎，班超和其母隨之遷居至洛陽。因家境貧寒，班超靠替官府抄寫文書，來維持生計。班超每日伏案揮毫，常投筆而歎曰：“大丈夫無它誌略，猶當效傅介子、張騫立功異域，以取封侯，安能久事筆硯間乎？”旁人都嘲笑他，班超卻說：“小子安知壯士誌哉？！”於是，他就去找相麵的人看相，相麵的人說：“祭酒，布衣諸生耳，而當封侯萬裏之外！”班超問其故，相麵的人說：“生燕頷虎頸，飛而食肉，此萬裏侯相也！”過了不久，漢明帝問班固說：“你弟弟現在在哪裏呢？”班固說：“替官寫書，用掙來的錢奉養老母親”。於是，漢明帝就任命班超為蘭台令史，掌管奏章和文書。然而，沒過多久，班超就因為小過失被免職。
漢武帝開通西域、漢宣帝設西域都護以後，西域諸國一直與西漢王朝保持著良好的關係。然而，這種關係被王莽改製時貶黜西域各國王號所引起的普遍不滿所打破。天鳳三年（公元16年），王莽派往西域的都護將軍李崇所率軍隊，被焉耆、姑墨等國殺得全軍覆沒。李崇死後，西域諸國遂完全斷絕了與大新帝國的聯係。於是，公開與新莽王朝決裂的匈奴單於便趁機在新莽末年和東漢初年擴充勢力，準備重新征服西域。
東漢光武帝劉秀建武十四年（公元38年），西域的莎車、鄯善國派使者到洛陽朝貢，並請求東漢政府派遣都護。因劉秀忙於鏟除地方割據勢力，鞏固政權，便沒有同意。建武二十一（公元45年），鄯善、車師等十六國遣子入侍，並再次請派都護，劉秀仍沒有同意。後來，西域諸國互相攻伐，最終被匈奴所控製。匈奴控製了西域諸國的人力、物力後，實力大增，屢次進犯東漢河西諸郡，邊地人民不堪其苦。
永平十六年（公元73年），奉車都尉竇固出兵攻打匈奴，班超隨從北征，在軍中任假司馬（代理司馬）之職。假司馬官很小，但它是班超由文墨生涯轉向軍旅生活的第一步。班超一到軍旅中，就顯示了與眾不同的才能。他率兵進攻伊吾（今新疆哈密西四堡），戰於蒲類海（今新疆巴裏昆湖），小試牛刀，斬俘眾多。竇固很賞識他的軍事才幹，派他和從事郭恂一起出使西域。
經過短暫而認真的準備之後，班超就和郭恂率領三十六名部下向西域進發。班超先到鄯善國（今新疆羅布泊西南）。鄯善王對班超等人先是噓寒問暖，禮敬備至，後突然改變態度，變得疏懈冷淡。班超憑著自己的敏感，估計必有原因。他對部下說：“寧覺廣禮意薄乎？此必有北虜使來，狐疑未知所從故也。明者睹未萌，況已著邪著耶？”
於是，班超便把接待他們的鄯善侍者找來，出其不意地問他：“匈奴使來數日，今安在乎？”侍者出乎意料，倉促間難以置詞，隻好把情況照實說了。班超把侍者關押起來，以防泄露消息。接著，立即召集部下三十六人，飲酒高會，飲到酣處，班超故意設辭激怒大家：“卿曹與我俱在絕域，欲立大功，以求富貴。今虜使到裁數日，而王廣禮敬即廢；如令鄯善收吾屬送匈奴，骸骨長為豺狼食矣。為之奈何？”眾人都說：“今在危亡之地，死生從司馬。”班超說：“不入虎穴，不得虎子。當今之計，獨有因夜以火攻虜，使彼不知我多少，必大震怖，可殄盡也。滅此虜，則鄯善破膽，功成事立矣。”有部下說：“當與從事議之。”班超大怒，說：“吉凶決於今日。從事文俗吏，聞此必恐而謀泄，死無所名，非壯士也！”部下一致稱是。於是等天剛一黑，班超率領將士直奔匈奴使者駐地。時天刮大風，班超命令十個人拿著鼓藏在敵人駐地以後，約好一見火起，就猛敲戰鼓，大聲呐喊。並命令其他人拿著刀槍弓弩埋伏在門兩邊。安排已畢，班超順風縱火，一時，三十六人前後鼓噪，聲勢喧天。匈奴人亂作一團，逃遁無門。班超親手搏殺了三個匈奴人，他的部下也殺死了三十多人，其餘的匈奴人都葬身火海。
第二天，班超將此事報知郭恂。郭恂先是吃驚，接著臉上出現了不悅之色。班超知道他心存嫉妒，便抬起手來對他說：“掾雖不行，班超何心獨擅之乎？”郭恂喜動顏色。班超於是請來了鄯善王，把匈奴使者的首級給他看，鄯善王大驚失色，舉國震恐。班超好言撫慰，曉之以理，鄯善王表示願意歸附漢朝，並且同意把王子送到漢朝作質子。
班超完成使命，率眾回都，把情況向竇固作了彙報。竇固大喜，上表奏明班超出使經過和所取得的成就，並請皇帝選派使者再度出使西域。皇帝很欣賞班超的勇敢和韜略，認為他是難得的人才，對竇固說：“吏如班超，何故不遣而更選乎？今以超為軍司馬，令遂前功。”竇固認為班超手下的人太少，想給他再增加一些。班超卻說：“願將本所從三十餘人足矣。如有不虞，多益為累。”
班超等人向西域進發，不久，到了於闐（今新疆和田）。當時，於闐王廣德新近攻破莎車（今新疆莎車），在南道雄幟高張，匈奴人派使者駐在於闐，名為監護其國，實際上掌握著該國的大權。班超到於闐後，於闐王對他不修禮貌，頗為冷淡。於闐巫風熾盛，巫者對於闐王說：“神怒何故欲向漢？漢使有騧馬，急求取以祠我”。於闐王派人向班超討要那匹馬，班超早已清楚事情原委，痛快地答應了。但是提出要神巫自己來牽。等到神巫到來，班超不由分說，將他殺死，把首級送還於闐王，曉以利害，責以道義。於闐王早就聽說過班超在鄯善國誅殺匈奴使者的作為，頗為惶恐，當即下令殺死匈奴使者，歸附漢王朝。班超重賞了於闐國王及其臣子們。
當時，匈奴人扶立的龜茲（今新疆庫車縣城東郊）國王倚仗匈奴的勢力在北道肆行無忌。他派兵攻破疏勒（今新疆喀什市）國，殺死國王，另立龜茲人兜題為疏勒王，疏勒國實際掌握在龜茲人手中。第二年春，班超帶手下人從小道向疏勒國進發。班超行至兜題居住的架橐城九十裏的地方，派手下吏員田慮去招降兜題。班超指示說：“兜題本非疏勒種，國人必不用命。若不即降，便可執之。”田慮隻身來見兜題。兜題見田慮勢單力孤，根本沒有投降的意思。田慮乘其不備，搶上去劫持了他。變故突然，兜提手下的人驚懼奔走。田慮乘馬疾馳，到班超處複命。班超當即來到架橐城。他把疏勒文武官員全部集中起來，向他們陳說龜茲人種種不合理的行徑，宣布另立原來被殺掉的疏勒國君的叫“忠”的侄兒當國王。疏勒人大悅。新王和一班官員要殺死兜題，但班超從大局出發，為了宣示漢王朝的威德信義，說服大家，釋放了兜題。疏勒平定。
至此，班超兩次出使西域，他憑借智勇，先後使鄯善、於闐、疏勒三個王國恢複了與漢朝的友好關係。
公元75年，漢明帝去世，焉耆（今新疆焉耆回族自治縣）國乘漢王朝大喪的機會，圍攻西域都護，殺死了都護陳睦。班超孤立無援，而龜茲、姑墨（今新疆溫宿、阿克蘇一帶）等國也屢屢發兵，進攻疏勒。班超跟疏勒王忠互為犄角，首尾呼應，拒守架橐城。雖然勢單力孤，但仍拒守了一年多。
公元76年，漢章帝即位，朝廷認為陳睦已死，擔心班超獨處邊陲，難以支持，下詔命班超回國。班超受命將歸，疏勒舉國憂恐。都尉黎弇說：“漢使棄我，我必複為龜茲所滅耳。誠不忍見漢使去。”說罷，拔刀自刎而死。班超率部至於闐，於闐國王侯百姓都放聲大哭，他們說：“依漢使如父母，誠不可去。”不少人還抱住班超的馬腿苦苦挽留。班超見狀，自知於闐父老絕不會讓他東回，而他也想留在這裏，完成他立功異域的宏願，便毅然決定，不回漢朝，重返疏勒。疏勒有兩座城在班超走後，已經重新歸降了龜茲，並且與尉頭國（今新疆阿合奇）聯合起來，圖為大亂。班超捉捕反叛首領，擊破尉頭國，殺六百餘人，使疏勒複安。 漢章帝建初三年（公元78年），班超率疏勒等國士兵一萬多人，進攻姑墨，並將其攻破，斬首級七百個，孤立了龜茲。五年（公元80年），班超上書給章帝，分析西域各國形勢及自己的處境，提出了要趁機平定西域各國的主張。書曰：“臣竊見先帝欲開西域，故北擊匈奴，西使外國，鄯善、於闐實時向化。今拘彌、莎車、疏勒、月氏、烏孫、康居複願歸附，欲共並力破滅龜茲，平通漢道。若得龜茲，則西域未服者百分之一耳。臣伏自惟念，卒伍小吏，實願從穀吉效命絕域，庶幾張騫棄身曠野。昔魏絳列國大夫，尚能和輯諸戎，況臣奉大漢之威，而無鈆刀一割之用乎？前世議者皆曰取三十六國，號為斷匈奴右臂。今西域諸國，自日之所入，莫不向化，大小欣欣，貢奉不絕，唯焉耆、龜茲獨未服從。臣前與官屬三十六人奉使絕域，備遭艱厄。自孤守疏勒，於今五載，胡夷情數，臣頗識之。問其城郭小大，皆言‘倚漢與依天等’。以是效之，則鰃領可通，鰃領通則龜茲可伐。今宜拜龜茲侍子白霸為其國王，以步騎數百送之，與諸國連兵，歲月之閑，龜茲可擒。以夷狄攻夷狄，計之善者也。臣見莎車、疏勒田地肥廣，草牧饒衍，不比敦煌，鄯善閑也，兵可不費中國而徹食自足。且姑墨、溫宿(今新疆烏什)二王，特為龜茲所置，既非其種，更相厭苦，其埶必有降反。若二國來降，則龜茲自破。願下臣章，參考行事。誠有萬分，死複何恨？臣超區區，特蒙神靈，竊冀未便僵仆，目見西域平定，陛下舉萬年之觴，薦勳祖廟，布大喜於天下”。班超在書中首次提出了“以夷製夷”的策略。
漢章帝覽表，知班超功業可成，非常滿意，準備增加班超的力量。平陵人徐幹與班超誌同道合，請求奮身異域，輔佐班超。朝廷當即任命他為代理司馬，派他帶領一千人去增援班超。
起初，莎車以為漢兵不會來，於是降於龜茲，疏勒都尉番辰也隨之反叛。正好徐幹到達疏勒，班超與徐幹一起，殺了番辰及其叛軍，斬首千餘級，平息了叛亂。班超攻破番辰之後，想進軍龜茲。當時，烏孫國兵力強盛，班超認為該借助它的力量，於是上書：“烏孫大國，控弦十萬，故武帝妻以公主，至孝宣皇帝，卒得其用。今可遣使招慰，與共合力。”章帝采納了他的建議。
建初八年（公元83年），拜班超為將軍長史，假鼓吹幢麾。升任徐幹為軍司馬，另外派遣衛侯李邑護送烏孫使者，賜大小昆彌以下錦帛。李邑走到於闐，正趕上龜茲進攻疏勒，嚇得不敢再向前行。為了掩飾自己的怯懦，他上書給朝廷，說西域之事勞而無功，又說班超“擁愛妻，抱愛子，安樂外國，無內顧心”。班超聞之，歎息不已：“身非曾參而有三至之讒，恐見疑於當時矣。”於是，毅然讓妻子離開了自己。漢章帝深知班超公忠體國，下詔書切責李邑，詔書中說：“縱超擁愛妻，抱愛子，思歸之士千餘人，何能盡與超同心乎？”還命李邑接受班超的管轄調度，說讓班超根據情況決定是否讓李邑留在西域。
班超當即讓李邑帶著烏孫質子回京。徐幹勸班超：“邑前親毀君，欲敗西域，今何不緣詔書留之，更遣他吏送質子乎？”班超說：“是何言之陋也！以邑毀超，故今遣之。內省不疚，何恤人言！快意留之，非忠臣也。”
第二年，漢王朝又派和恭為代理司馬，率兵八百，增援班超。班超準備調集疏勒、於闐的兵馬進攻莎車。莎車派人跟疏勒王忠私下聯係，用重禮賄賂他，忠背叛班超，發動叛亂，占據烏即城。班超改立府丞成大為疏勒王，調集兵力攻忠，康居（今巴爾喀什湖和鹹海之間）國派精兵助忠。班超久攻不下。當時，大月氏剛和康居通婚，班超派人給大月氏王送了厚禮，讓他對康居王曉以利害，康居王罷兵，把忠也帶了回去，烏即城複歸。
過了三年，忠從康居王那裏借了一些兵馬，住在損中，與龜茲勾結密謀，派人向班超詐降，班超洞見其奸，將計就計，答應他投降。忠大喜，便輕裝簡從來見班超。班超具食與樂，酒宴中，命人斬殺忠，並進軍擊敗其兵眾，南道遂通。
第二年（公元89年），班超調發於闐等國士兵兩萬多人，再攻莎車。龜茲王發遣左將軍發溫宿、姑墨、尉犁合兵五萬救援莎車。敵強我弱，班超決定運用調虎離山之計。他召集將校和於闐國王，商議軍情。他故意裝出膽怯的樣子說：“今兵少不敵，其計莫若各散去。於闐從是而東，長史亦於此西歸，可須夜鼓聲而發。”班超偷偷囑托人故意放鬆對龜茲俘虜的看管，讓他們逃回去報信。龜茲王聞之大喜，自己率萬騎在西邊截殺班超，派溫宿王率領八千人在東邊阻擊於闐。班超偵知他們已經出兵，迅速命令諸部齊發，雞鳴時分，直撲莎車大本營。營中無備，軍士奔逃，班超追斬五千餘首級，大獲其馬畜財物。莎車國隻好投降，龜茲王等也隻好散去。班超由此威震西域。
當初，大月氏（今阿富汗境內）國曾經幫助漢朝進攻莎車有功。公元87年，國王派遣使者，來到班超駐地，向漢朝進貢珍寶、獅子等物，提出要娶漢朝公主為妻。班超拒絕了這一要求，大月氏王由此心生怨恨。
永元二年（公元90年）夏，大月氏副王謝率兵七萬，東越蔥嶺（今帕米爾高原和昆侖山脈西段、喀剌昆侖山脈東南段），攻打班超。班超兵少，大家都很恐慌。班超卻說：“月氏兵雖多，然數千裏逾蔥嶺來，非有運輸，何足憂邪？但當收穀堅守，彼饑窮自降，不過數十日決矣”。大月氏副王謝進攻班超，無法攻克，搶掠糧草，又無所得，果然疲憊不堪。班超估計其糧草將盡，必派人到龜茲求救，預先命幾百名士兵在東邊埋伏，謝果然派兵帶金銀珠寶去龜茲求援。班超伏兵大出，殺死了使者，並派人拿給謝看。謝大驚，進退無據，隻好遣使向班超請罪，希望能放他們一條生路，班超放他們回國，大月氏因此大震，遂與漢朝和好如初。
第二年，龜茲、姑墨、溫宿等國皆降。朝廷任命班超為都護，徐幹為長史，拜白霸為龜茲王，派司馬姚光來送他。班超和姚光命龜茲廢掉原來的國王尤裏多，扶立白霸。姚光把尤裏多帶回了京師。於是，班超駐紮在龜茲它乾城。此時，西域諸國，隻剩焉耆、危須（今新疆焉耆東北）、尉犁（今新疆庫爾勒東北）三國，因為曾殺害西域都護陳睦而心懷恐懼，尚未歸漢。其餘各國，均已平定。
漢和帝永元六年（公元94年）秋，班超調發龜茲、鄯善等八國的部隊七萬人，進攻焉耆、危須、尉犁。大軍行到尉犁地方，班超派使者通告三國國王：“都護來者，欲鎮撫三國。即欲改過向善，宜遣大人來迎，當賞賜王侯已下，事畢即還。今賜王彩五百匹”。焉耆王廣便派左將北鞬支送來牛酒，迎接班超。班超指責他說：“汝雖匈奴侍子，而今秉國之權。都護自來，王不以時迎，皆汝罪也。”班超手下的人勸他殺了北鞬支，班超不同意，他說：“非汝所及。此人權重於王，今未入其國而殺之，遂令自疑，設備守險，豈得到其城下哉”！於是班超送給北鞬支不少禮物，放他回國。焉耆王廣見北鞬支無事，就親率高官在尉犁迎接班超，奉獻禮物。不過，他並非真想讓班超進入他的國境。他一從班超那裏返回，立即下令拆掉了國境山口的圍橋。班超卻從別的道路進入其國，在距王城二十裏的地方駐紮部隊。焉耆王見班超出乎意外突然到來，大驚，想逃入山中頑抗。焉耆國左侯元孟，過去曾入質京師，悄悄派使者向班超報信。班超為了穩定焉耆國貴族，斬殺了元孟的使者。班超定下時間宴請三國國王及大臣，聲言屆時將厚加賞賜。焉耆王廣、尉犁王泛及北鞬支等三十多人信以為真，一起到會。焉耆國相腹久等十七人害怕被殺，逃跑了，危須王也沒有來。 宴會開始，大家坐定，班超突然變了臉色，責問焉耆王等“危須王為何不到?腹久等為何逃亡”?喝令武士把廣、泛等一舉捉獲，並在當年陳睦所駐的故城，把他們全部斬殺，傳首京師。又縱兵搶掠，斬首五千餘級，俘獲一萬五千人，馬畜牛羊三十餘萬頭。接著班超另立元孟為焉耆國王，為穩定局勢，班超還在那裏停留了半年。至此，西域五十多個國家都歸附了漢王朝，班超終於實現了立功異域的理想。
和帝永元七年（公元95年），朝廷下詔曰：“往者匈奴獨擅西域，寇盜河西，永平之末，城門晝閉。先帝深湣邊萌嬰羅寇害，乃命將帥擊右地，破白山，臨蒲類，取車師，城郭諸國震懾響應，遂開西域，置都護。而焉耆王舜、舜子忠獨謀悖逆，持其險隘，覆沒都護，並及吏士。先帝重元元之命，憚兵役之興，故使軍司馬班超安集於窴以西。超遂逾鰃領，迄縣度，出入二十二年，莫不賓從。改立其王，而綏其人。不動中國，不煩戎士，得遠夷之和，同異俗之心，而致天誅，蠲宿恥，以報將士之讎。司馬法曰：‘賞不逾月，欲人速鷪為善之利也。’其封超為定遠侯，邑千戶。”於是後人稱班超為“班定遠”。班超的封地在今陝西漢中鎮巴縣，該縣在清朝以前隸屬於西鄉縣時曾設“定遠廳”即源於此。