古城依山而建,南北寬138米,東西長194米,呈不規則形狀。該城東臨懸崖石壁,北面是陡坡,西、南面地形雖然低,但坡度較大。
《後漢書》記載,公元75年耿恭在疏勒城被匈奴大軍圍困,內無糧草、外無援兵,但仍堅守,後來只得煮鎧甲弓弩,吃這些物件上的筋革。匈奴斷絕城下的澗水,試圖困死漢軍,大家只好榨馬糞而飲其汁。耿恭鑿井十五丈,飛泉湧出,大飲解渴,耿恭讓部下在城頭上灑水,匈奴以為漢軍有神明護佑。匈奴對耿恭心生敬意,便予招降。耿恭答應投降,將匈奴使者騙進城裡親手擊殺,然後在城上對著匈奴大軍,將使者的肉割下烤著吃。這在後來成了宋朝將軍岳飛的著名詩句“壯士飢餐胡虜肉,笑談渴飲匈奴血”的來歷。