觻得故城何時廢棄，另遷址新建于今張掖城(甘州區)，史家眾說不一。有說“東漢”者，有說“魏晉”者，有說“隋代”者，也有說“唐代”者。
清乾隆《甘州府志》載：府城西夏因之。元大德年間擴修，至大二年(1309年)重修，周長九里三十步(一步等于五尺)。明洪武二十五年(1392年)，都督宋晟又把張掖城向東擴建三里三百二十七步，連同舊城合并計算，共計周長十二里三百五十七步，城高三丈二尺，墻厚三丈七尺。擴建之后，東、西、南、北各開一門，每座城門上建有三層飛檐挑角門樓。每個城門之外都筑有甕城，城四角各建一個角樓，城外四周建有護城河，河深一丈七尺，寬三丈七尺，四周河面上各架一座石拱橋。城外南、東、北三面筑有城郭，南郭長二里二十四步，高二丈二尺，厚二丈一尺；東郭長四里一百三十步，高、厚與南郭相等；北郭高與厚又與東郭一樣，長占半數。城西未建城郭。
明嘉靖三十八年(1559年)，城四周修筑敵臺共24座，每面6座，臺高丈余。
張掖城一直為版筑土城。由于北邊陰暗潮濕，整個城墻明顯疏松，再加經常受到外來侵擾，戰事不斷，使城墻有斷裂倒塌之勢，雖然不斷加固，但從根本上解決不了問題。明萬歷二年(1574年)，總督陜西三邊軍務都察院右副都御史兼兵部左侍郎石茂華奏請朝廷撥付帑銀，進行磚包城的籌建，后由甘肅巡撫都御史廖逢節繼任，調來山西、蘭州的高明窯匠何永成，砌匠裴明等十一人，從是年三月初二日起，到九月，先包完東、南兩面大城墻，并甕城、門洞、敵臺，共長一千二百五十九丈九尺，實臺垛墻共高四丈，底闊五尺，頂闊三尺。西、北兩面大城墻，甕城、門洞、敵臺等項，由于地下潮濕，各加磚一層，整個工程于次年全部完成。磚包砌的城墻避免了土城墻的許多不利因素，在安全防范方面也得到有力保障，這一工程使全城百姓無不稱贊，各界人士踴躍出錢出力，使四年的工程僅兩年就全部完成。
清乾隆二十九年(1764年)，張掖縣知縣富斌用朝廷撥款加固張掖城。修復后，每面開內外城門兩個，四面共開八個。城門上鑲刻橫額，東城門“揚煦”，二門“寅賓”；西城門“懷新”，二門“廣德”；南城門“延恩”，二門“時熏”；北城門“鎮遠”，二門“永康”。城樓上懸掛大匾，匾文是：東“弱水東流”，西“流沙西被”，南“祁連南聳”，北“長城北環”。
清同治四年(1865年)后，張掖北城門遭戰火焚毀，城垣被嚴重破壞。清光緒二十四年(1898年)，甘肅提督張永清、甘州府知府誠瑞、張掖縣知縣張心鏡等人籌款補修。從此，張掖城樓櫓畢具，城垣完固。
民國16年(1927年)農歷4月23日，張掖發生地震，城墻許多地方倒塌斷裂，張掖的部分紳士籌款整修了斷塌處，恢復了原貌。民國30年(1941年)，抗日戰爭期間，因整個城只有東、西、南、北四道門，對緊急疏散居民十分不利，為應付日軍空襲，在今縣府街南端、勞動街北端各開辟了一個新的城門，以便利百姓疏散。又因汽車進城不易轉彎，又將東、西、南三個城門之外的甕城拆除。
張掖鼓樓也叫鐘樓、鐘鼓樓，又名鎮遠樓、靖遠樓。《重修甘州吊橋及靖遠樓》碑銘載，鼓樓始建于明代正德二年(1507年)，由甘肅巡撫才寬領帑籌資興建。清順治五年(1648年)毀于兵燹(xiǎn)；康熙七年(1668年)，甘肅提督靖逆將軍張勇主持重建；乾隆、光緒年間都曾進行過修葺。鼓樓位于城內中央，坐落在東、西、南、北四大街的中心點上，呈“田”字型，布局方正。樓體為磚土木結構，建筑格局下為樓臺，上為樓閣，邊高21米。樓臺為夯土青磚包砌，邊長32米，高9米。臺中軸開辟“十”字型通道，道門各寬4米，高5米，呈拱形，4門遙對東、西、南、北四大城門。拱門上端正中皆嵌磚雕刻匾額，各題二字，東門“旭升”，西門“賓成”，南門“迎熏”，北門“鎮遠”，每幅匾額上鐫刻“乾隆歲次丙午仲夏望日重修”。樓臺之上的樓閣為外三層、內兩層的木樓，重檐四角攢尖頂。樓上原有匾額4塊，東“金城春雨”，西“玉關曉月”，南“祁連晴雪”，北“居延古牧”。1668年(清康熙七年)重修時改名，匾額為：東“九重在望”，西“萬國咸賓”，南“聲教四達”，北“湖山一覽”。樓面闊三間，進深三間，底寬16米，樓階置于臺基西北角。樓臺懸掛唐代所鑄合金銅鐘一口，顏色黃中泛青。鐘高1.3米，直徑1.1米。造型呈喇叭式，上窄下粗，周垂八耳。鐘身分四層：上層鐘鈕橋形，鈕高0.14米，上飾八瓣蓮花；下三層，每層六格，計十二格，格內模鑄飛天、青龍、白虎、朱雀、玄武。
昔日張掖古城，古剎櫛比，亭臺林立，古木參天，湖水清鑒，形成“一片山光，半城塔影，連片葦溪，遍地古剎”。清詩人趙蘊崇《春日登三臺閣晴眺》對張掖古城雄姿的描繪是：“高閣臨城亦壯哉，憑欄蒼翠四圍開。風從柳谷來偏急，云向花門去不回。雪嶺千層斜縹緲，甘泉一勺細瀠洄。葦芽夾岸秾桃李，紅白紛紛點碧苔。”譽為河西第一城。
張掖古城到民國38年(1949年)，城區面積為3.3平方公里，主要街、巷28條，長14公里，面積9.8萬平方米。街寬6～8米、巷寬3～6米。寺廟樓宮73處。房屋建筑面積19.28萬平方米，廟宇、公署多為磚木結構，民宅居室多為土木矮屋。公、私房大部分為平房，也有幾處二、三層樓閣式建筑。居民用水全部靠泉水和井水，擔挑手提、風雨無遮，沒有衛生保障。冬季取暖，富者燒煤炭、貧者燃柴草。照明普遍采用植物油點燈，個別也有用動物油的。舊城墻于1949年中華人民共和國成立后拆毀，現僅在城東北角殘留一小段半截土墻。(張蘭)
