在抗日民族統一戰線的旗幟下，國共兩黨同赴國難。陸軍第八十四軍歷1937年淞滬戰役，1938年夏徐州會戰，同年秋武漢保衛戰。1939年和1940年兩度隨棗會戰，1941年豫南會戰，戰績卓著。先後犧牲師長鍾毅，副師長周元，旅長龐漢禎等將士達萬餘之眾。1941年該軍奉命移防大別山，軍部駐紮商城。1942年春，戰爭稍息，軍長莫樹傑為斂葬1937年北上抗戰諸役殉國將士散各地的遺骸，特撥款在商城東南半個店購一片荒地，興建忠烈祠。莫樹傑主持奠基儀式，師部官兵自己動手興建，至年底已初具規模。1943年元月初，日軍第二次進犯商城，八十四軍主力由汝南正陽防地馳援迎戰，此役長衝口、蘇仙石等戰場400多名陣亡官兵忠骸集葬於此，是年7月7日，八十四軍舉行盛大落成典禮，第五戰區軍政要員雲集商城，各界民眾萬人參加公祭儀式。
忠烈祠坐北向南。南北縱身180米，東西寬約110米，占地近兩萬平方米。前有弧形花垣牆，倚牆築露天音樂台。陵園中央建一牌坊，額鐫“精忠報國”四字。後為歇山飛檐，盤龍雕柱之紀念（高堂）正門上方懸掛刻有時任第五戰區司令長官李宗仁題寫“忠烈祠”黑漆金字匾額。兩側懸掛莫樹傑撰書的楹聯：萬里赴戎機，與諸君出死入生，相期日月重光，燕然勒石；千伙隆祀曲，念先烈萬仁取義，永飄乾坤正氣，民族雄風”。
堂內正中靠後樹立一巨碑，豎刻“陸軍第八十四軍抗日陣亡之神位。”，內壁鑲嵌有莫樹傑撰寫的《陸軍的八十四軍忠烈祠碑記》以及鑲刻該軍為國捐軀將士姓名簡歷的三組橫連碑。紀念堂東北西三側面依崗坡地勢壘砌五級台階式墓道，墓前各立一碑，刻烈士姓名簡歷。其中有陣亡將領鍾毅、周元和龐漢禎之墓。東北崗面臨滷水，以南北為中軸線，東西對稱，碑碣森森，坊亭相望，松柏環翠，恢弘而又肅穆。
