說起關虎屯，不得不提起這樣一個典故：公元前11世紀，周武王姬發滅掉商朝後建立了周王朝。周穆王姬滿統御天下50多年，在位時曾多次遠離京城到鄭圃（今鄭州市管城區圃田一帶）遊玩、狩獵。 有一次，周穆王在狩獵時忽然遇到一隻猛虎，大驚失色。這時，衛士高奔戎趕忙上前與猛虎搏鬥，最終生擒了這隻猛虎並把虎作為禮物獻給穆王。穆王大悅，便下令暫時將猛虎就近關在東圃西邊的一個村子裡。這個村子就是後來的關虎屯。 不久，穆王又派人將此虎運往東虞（今滎陽汜水鎮）長期關養，這就是後來的虎牢關。
1927 年，國民政府修築了一條開封至京水（今惠濟區花園口鎮的一個村子）的土公路。後來，這條公路向南延伸，穿過關虎屯村，把村子分成東西兩個部分。時間一長，就形成了東關虎屯和西關虎屯兩個自然村。
1958 年4 月15 日,毛主席發表了《介紹一個合作社》的文章,指出這個苦戰兩年改變了面貌的合作社“很有些發人深省的東西”。為回響這一指示，1958 年4 月20 日，周恩來總理和彭德懷副總理在省、市、區領導吳芝圃、王黎之、杜德新等陪同下視察了鄭州市郊區的關虎屯農業社，並贈送了一台拖拉機。
1954 年，河南省省會由開封遷至鄭州。關虎屯村裡的部分耕地被包括河南省人民政府在內的多家廳（局）等省直單位徵用。上世紀80 年代初，根據鄭州市城市規劃，確定建設一個動物園，當時在選址時，就有人提出旁邊的關虎屯村，正是因為歷史上曾經關過老虎而得名。最後鄭州市動物園選擇在關虎屯附近建園，是不是以上原因，還是一種巧合，目前還沒一種定性的說法。
經過2005 年城中村改造，現在關虎屯一帶已經成為各種大廈、商場、超市、寫字樓林立的繁華商業區。村民變成了居民，村莊變成了社區。
