水西門街，得名於太原城之水西門。明代太原城共有八座城門，東西南北各有兩座。兩座西門中，位於城北者叫阜城門；位於城南者叫振武門。因太原城東最高，北次之，最低的地勢在西南角，所以，每遇水患，振武門一帶必遭水淹。輕則街巷院落積水，久而不退；重則房倒屋塌，街衢不通，生靈塗炭。所以，城中父老皆稱“振武門”為“水西門”，久而久之，“振武’”之雅號，遂被“水西”之俗稱所取代，成為僅見於書載的名稱。
太原城
說水西門，自然會涉及太原城。追溯太原城八座城門的歷史，水西門為其最古老者。北宋太平興國年間，潘美所建的太原城只有四座城門，東曰朝曦、西曰金肅、南曰開遠、北曰懷德。明初擴建太原城時，“永平候謝成，展東南北三面”，唯有西邊向南北延伸外，故址未動。於是宋代所建太原城的東門、南門和北門，都在這次擴建中毀於一旦，只有西門即金肅門未拆，略事修整後更名振武門，迄今算來已是1000多年的歷史了。
明清兩代的水西門街，西至城門，東與西米市街隔“四神閣”連通，南入滿洲城，北去都司街，是太原城中最寬的街道之一，寬達“塗容四軌”，可並列平行四輛馬車。直至解放之前的民國年間，依然如舊，變化不大。
而今的水西門街，則是在原有的基礎上，將西米市街併入，合二而一，為原水西門街長度之三倍。今水西門街中段和東段，即原來的西米市街，是明以來太原城中最大的米粟業貿易之所。清末至民國年間的太原米粟業公會，就坐落在這條街的東段南側，至今磚刻的匾額仍然清晰可辨。
西米市街，在清以後遠比水西門街繁華熱鬧，米鋪、米店、糧行、油店，一家連線一家。直至太原淪入日軍之手後，才日趨蕭條，一蹶不振。解放初期，西米市街的米粟行業，在黨的政策的保護下，重新蓬勃發展起來。1956年之後，這些米粟業合併為大糧店，分設於太原城中各主要街道，形成糧食供應網點。大約是50年代末期，太原市對城市街巷進行規劃管理，西米市街遂併入水西門街，成為其一部分。
