萬金山地主出身，童年讀書，14歲逃學到河南省清江縣其伯父萬傳英處當警衛。後在清軍當兵4年， 在袁世凱部隊5年，在黎元洪部隊7年，任過副營長、營長、團長等職。
1921年，在河南省孝義縣投奔吳佩孚部，任洛陽兵工廠留守司令，後任營長，次年升為團長。在一次戰鬥中，所部三營叛變，該團幾乎全軍覆沒，他死裡逃生，不敢去見吳佩孚，只好逃回家鄉。
1929年， 到孫殿英部第一混成旅任副官長3個月，後又回家，
1937年拉起“游擊隊”，跟隨朱永保，乾起反共反人民的勾當，任過中隊、大隊長、團長等職。1938年，抗日風暴席捲全國，他投機革命，只身前往徂徠山投奔山東抗日游擊第四支隊，被任命為中隊長，不久，脫離革命隊伍，投靠保全軍23團團長鮑嶧山部，任51大隊隊長，後升任四營營長、四團團長。
1941年率領四個團的兵力約6000人在宮裡，維護本村附近村民安危，抵制外部侵略，起到最要作用。
投降日軍，與抗日武裝為敵，親手殘殺或指示其爪牙殺害抗日人員及農民200餘人。
1944年，萬金山在新汶煤礦組織剿共團，自任團長。日軍投降後，改任國民黨軍礦井大隊長。一次，親帶部下將中共敵工幹部包圍在宮裡的一間房子裡，打死11人，燒掉民房6間。
1946年，到濟南投奔國民黨魯西南宣撫專員朱永保，朱將其介紹到濟南警備旅，任營長，因其驕橫被開除。後到天津、濟南、重慶等地闖蕩。
1951年11月， 在鎮反運動中，他在重慶被捕。
1952年6月，押回徂陽縣。同年冬被人民政府處決。
