天心閣矗立在長沙古城東南角的城牆之上，建於明初，已有600多年曆史。而長沙古城池的曆史可追溯到2000多年前的楚國。天心閣下的這段古城牆，高13.4米，頂麵寬6.1米，長251米，為古代長沙城牆全長的三十五分之一。今已成為當代人回望曆史，憑吊先賢的旅遊勝地。
在長沙這一古老而神奇的土地上，20-15萬多年前的舊石器時代就有原始先民生息繁衍。至春秋時期，長沙便被納入楚國版圖。戰國時期，長沙就有城邑，並為楚南重鎮。根據考古專家對大量發掘出土資料的判斷，戰國時期長沙城的位置和範圍是：東在黃興路和蔡鍔路（今名，下同）之間，南到坡子街一帶，西臨下河街，北在五一路與中山路之間，這一範圍東西長700餘米，南北寬約600米，與後來的長沙城相比，真可謂是“彈丸之地”。
從戰國至今，長沙建城邑已有2400年左右的曆史。2000多年以來，長沙的中心位置一直沒有移動，隻是在舊城的基礎上不斷地改造，不斷拓展。
西漢初年，番陽令吳芮被封為長沙王。漢高祖五年(公元前202年），封立長沙國，原秦朝長沙郡治“湘縣”改稱為“臨湘縣”，故稱長沙國的都城為“臨湘故城”。北魏酈道元所著的《水經注》，其“湘水”篇中說：“漢高祖五年以封吳芮為長沙王，是城即芮築也。”吳芮修築的土城，南城牆約在今樊西巷稍南；北城牆在五一路與中山路之間；東至東慶街、東正街，東北角到小吳門附近；西濱湘江，西北角到了大西門，略成正方形，麵積約1.5平方公裏。城池內還建有吳王殿，殿西正對賈誼故居，位置在今五一大道至司門口之間。l987年五一廣場地下挖掘發現的巨大夯土台基，證實為漢代遺存。湘江西岸三汊磯的三石戍城(古營寨堡壘)至今留有土城遺跡，估計至遲不晚於西漢初年。
魏晉六朝時長沙城垣有所增益。其城垣除原有漢朝的臨湘舊治外，尚在南牆外下黎家坡以北設有新治。
隋唐時期，長沙城垣外四周繞有水麵寬闊的護城河，河上有橋梁，城牆辟有多座城門，城垣東至小吳門、瀏陽門，南至南門口，西沿大小西門附近，北為司馬橋、戥子橋、活元橋以南。今青少年宮後的六堆子即為唐代北門長樂門的遺址，司馬橋、戥子橋諸橋為跨越護城河的橋梁。在今碧湘街與西湖路之間辟有碧湘門；今天心閣下東城牆在瀏城橋至天心閣一線山脈龍伏山以西，從城北的戥子橋經順星橋往南經落星田、古稻田直至天心閣西北方向的高碼頭，是當年東城牆外護城河的流經之處。東城牆上辟有瀏陽與醴陵兩座城門，當時的瀏陽門在今瀏正街與都正街相交處往北經落星田至小吳門之間。
宋代之前的五代，長沙為馬楚王朝的都城，北城牆已擴至今開福寺以南湘雅路一帯，後因兵毀。北宋時長沙城圍曾達“二十二裏九步”。由於戰事頻繁，土城牆屢遭損毀，南宋紹興二年（1132），湖南安撫使兼潭州知州李綱著手修複城垣，以長沙城太大，難於守備為由，奏請將城垣截去三分之一。次年接任的折彥質又奏請此事，後直至景定元年（1260），向士璧任湖南安撫使兼潭州知州時，這個截城三分之一的工程才得以完成，即北城牆移建至今湘春路一線，長沙的城圍便縮小到了“十四裏有奇”，基本接近明清城垣。民國初，拆除舊城垣時在興漢門城牆內發現宋代向士璧題寫的“雲陽門”青石門額。至此，長沙城垣的格局最終完全確定，其範圍南止城南路，北止湘春路，東枕龍伏山，西臨湘江。整個城市負山麵江，直到民國初年拆除城牆時止，雖屢經興廢，但其範圍卻並無改變。由此可知：長沙古代土城牆擴建到現天心閣處，距今已有上千年曆史。
長沙的土城池，經曆了數次殘酷的戰爭磨難，城池嚴重毀損。在明代以前，三國初期，便有吳蜀的長沙之爭、南北朝時的二蕭長沙之戰、南宋建炎四年（1130）金兵的破城屠城。南宋末德祐元年（1275）元軍南下攻打長沙城，時任湖南安撫使兼潭州知州的李芾（衡陽人）動員全城軍民，苦守土城牆3個月，彈盡糧絕，援軍不至。城破在即，與李芾一道守城的受聘參謀尹穀（長沙人，嶽麓書院老師）領全家舉火自焚。李芾感歎不已，令部將沈忠處死自家老少，然後自刎而死。沈忠也效法李芾殉難。在潭州保衛戰中英勇無畏的幾百名嶽麓書院的學生，城破後大多自殺殉國，守城功臣安撫使參議楊霆（衡陽人）也舉家殉難，許多老百姓也堅強不屈，誓死不當元軍俘虜。史料稱：“多舉家自盡，城無虛井，縊林木者，累累相比”，何其悲壯！
元軍破長沙，城池夷平，但剩頹垣殘壁。明初，各地方政權為了守好一方土地的平安，紛紛加修加固城牆，以防止外來侵擾和加強城內治安。長沙在明洪武五年（1372）也展開了大規模的城垣修整工作。長沙守禦指揮使邱廣，以磚石對土城牆進行全麵改造。城基全部用整塊石條砌到8尺高，石基以上到女牆頂部均用特大青磚砌成，使之上下完固。其時城牆磚由長沙府12縣州負責燒製，今發現燒刻在城牆磚上最早的紀年為“洪武七年八月”，有的城牆磚上還燒刻有窯戶和監製官員的姓名，如“長沙府禮(醴)陵縣提調官陳褔”等。修整後的長沙城牆，從基腳到頂部有2丈4尺高，周長2639丈5尺（明代一營造丈等於3.2米，故折合8446.4米），計14裏有奇，廣（東西寬）五裏，袤（南北長）十裏。城牆上設有4679個雉堞，雉堞高2尺。城西向據湘江天險，其餘三向繞以人工護城河，護城河由城南的西湖橋引湘江水經南向黃道門，東向瀏陽門、小吳門，北向新開門、湘春門，繞長沙南、東、北三方後返入湘江。河深、寬各6.5米，每處城門外均設有吊橋，早晚定時啟閉。這次城牆的大規模修整，耗資巨大，在長沙城建曆史上是一項空前偉大的工程。