山梨半造山梨安兵衛次子。曾就讀於耕余塾（明治時期神奈川縣實行近代教育的私塾）。1883年6月入陸軍士官學校舊8期，1886年6月25日授予陸軍少尉軍銜，任步兵第5聯隊附。1892年12月2日畢業於陸軍大學第8期。甲午中日戰爭任步兵第4旅團副官。步兵第5聯隊中隊長，第2軍副官，占領地總督部副官。參謀本部第四部員兼陸大教官，赴德國留學，陸大教官。日俄戰爭中歷任第2軍作戰主任參謀，第2軍參謀副長，第3師團參謀長。奧匈帝國公使館附武官，德國大使館附武官，陸大幹事，步兵第51聯隊長。1911年9月6日晉升陸軍少將。步兵第30旅團長，步兵第1旅團長，參謀本部總務部長，獨立第18師團參謀長（第一次世界大戰指揮攻占青島），教育總監部本部長，陸軍次官兼航空局長官，陸軍大臣，1920年11月1日授予勛一等旭日大綬章，1921年12月19日晉升陸軍大將。軍事參議官，關東戒嚴司令官，東京警備司令官，軍事參議官。1925年5月25日編入預備役。第5任朝鮮總督（1927-1929）。1944年7月2日去世。曾獲二級金鵄勳章。
山梨半造曾出任過三屆內閣陸相（原敬、高橋是清和加藤友三郎內閣）。他在加藤內閣任上進行了兩次軍隊裁員，史稱“山梨軍縮”。軍縮主要是受一次大戰後世界各國的裁軍風潮影響加上當時沙俄已經垮台，日本失去了第一假想敵國。其實最主要的還是減輕政府負擔。山梨的軍縮共裁掉了60000名軍人和13000頭軍馬。後來宇垣一成又實行了進一步的軍縮。軍縮使得大量軍人失業，成了社會上的閒散人員。地位的降低使許多軍人強烈不滿，造成了軍隊的不穩定，這也成了三十年代陸軍派閥鬥爭的根源。山梨本來在官場上還是混的不錯的，陸軍三大衙門全都呆過。可就是因為幹了軍縮這么個得罪人的差事被轟到了軍事參議官這個閒職上。後來和福田雅太郎一起轉入了預備役，接替後輩宇垣一成去當了朝鮮總督。在總督任上又被民政黨舉報收受了米商的賄賂，灰溜溜的卸了任。
山梨半造與後來率部攻占菲律賓的本間雅晴中將（陸士19期，陸大27期），都娶的是田村怡與造中將的女兒（不過本間小山梨23歲）。這個田村中將曾留學德國。是一個優秀的戰略家。川上操六大將就曾把田村比作戰國名將武田信玄，稱他為“今信玄”。
