早年時光
他的曾祖父曾在伊比利亞半島作為一名參謀軍官在威靈頓麾下效力。赫爾曼很自然地加入了帝國陸軍，在一戰中作為一名下級軍官表現優異，期間5次負傷。戰爭結束時，他是一名機槍連連長。
戰後他被吸收進魏瑪共和國國防軍，並參與發展了德國裝甲部隊。二戰爆發時，他正在陸軍司令部，1939年10月底他成為第一裝甲師第一摩托化團團長，1940年法國戰役期間。作為一名中校，他指揮所部在古德里安裝甲集群內，是第一批在色當渡過馬斯河的部隊之一，然後席捲了西岸高地。幾天之後他在野外被授予騎士十字勳章，此後，他指揮第3裝甲團和第2裝甲旅參加了對希臘的入侵。
東線戰役
1941年7月，調任陸軍總部裝甲部隊參謀軍長，1942年5月他前往東線，出任第11裝甲師師長。在1942年底的齊爾河畔戰役中，充分展示了他指揮裝甲部隊的天分，以50輛坦克挫敗了蘇聯軍隊幾百輛坦克的進攻。後來，他又參加日托米爾反擊戰，挫敗了尼古拉·費多羅維奇·瓦圖京的攻勢。1943年，他擔任大德意志師師長，同年12月，出任第48裝甲軍軍長，1944年9月，出任第四裝甲集團軍司令，此時蘇軍在東線展開一系列反功，德軍戰線不斷後撤，他雖然無力改變整個戰局，但是在局部作戰中，還是表現出相當出色的指揮能力。
最後時刻
1944年9月，巴爾克離開俄國前往西線代替被解職的約翰內斯·布拉斯科維茨來指揮G集團軍群。他的任務是在做好阿登反擊戰的準備的同時守住洛林、阻擊喬治·巴頓。在不會被優先得到加強、防禦手段又十分匱乏的情況下，他用高超的技巧圓滿完成了任務。儘管被某些人認為是一個嚴守紀律的人和“一個無可救藥的樂觀主義者”，他的戰鬥意識還是讓他得到了元首的賞識。
1945年初，巴爾克又被調回東線指揮在匈牙利的第6集團軍群，在那裡他打了很多掩護撤退的仗以保障德軍順利撤回奧地利。5月8日他被美軍俘虜，戰後他住在聯邦德國，1982年11月29日去世，他是第25位雙劍橡葉騎士勳章獲得者。在很多方面，他的職業生涯是那些忠實地為納粹政權服役至最後卻不是納粹分子的軍人中很典型的。
