秦始皇統一六國後，分天下為三十六郡，蘭州一帶屬隴西郡地。
西漢初，依秦建制，蘭州仍為隴西郡轄地。
漢武帝元狩二年（公元前121年），霍去病率軍西征匈奴，在蘭州西設令居塞駐軍，為漢開闢河西四郡打通了道路。
漢昭帝始元元年（公元前86年），在今蘭州始置金城縣，屬天水郡管轄。
漢昭帝始元六年（公元前81年），又置金城郡。
漢宣帝神爵二年（公元前60年），趙充國平定西羌、屯兵湟中後，西漢在金城郡的統治得到加強，先後又新置七縣。
東漢光武帝建武十二年（公元36年），並金城郡於隴西郡。
漢安帝永初四年（110年），西羌起義，金城郡地大部被占，郡治由允吾遷至襄武（今甘肅隴西縣），十二年後又遷回允吾。東漢末年，分金城郡新置西平郡，從此，金城郡治由允吾遷至榆中（今榆中縣城西）。
西晉建立後，仍置金城郡。西晉末年，前涼永安元年（314年），分金城郡所屬的枝陽、令居二縣，又與新設立的永登縣，在今蘭州市紅古區窯街附近三縣合置廣武郡。同年，金城郡治由榆中遷至金城，從此金城郡治與縣治同駐一城。
隋文帝開皇三年（583年），改金城郡為蘭州，置總管府。因城南有皋蘭山，故名蘭州。隋煬帝大業三年，改子城縣為金城縣，復改蘭州為金城郡，領金城、狄道二縣，郡治金城。大業十三年（617年），金城校尉薛舉起兵反隋，稱西秦霸王，年號秦興，建都金城。不久遷都於天水，後為唐所滅。
唐統一中國後，於唐高祖武德二年（619年）復置蘭州。八年，置都督府。唐高宗顯慶元年（656年），又改為州。唐玄宗 天寶元年，復改為金城郡。唐肅宗乾元二年，又改金城郡為蘭州，州治五泉，管轄五泉、廣武二縣。唐代宗寶應元年，蘭州被吐蕃占領。唐宣宗大中二年，沙州敦煌人張義潮起義，收復隴右十一州地，蘭州又歸唐屬。然而此時的唐朝已經衰落，無力西顧。不久又被吐蕃占領。
