木越安綱金澤藩士加藤九八郎之次子，該藩奉行木越安敷的養子。初在陸軍教導團任職，1875年入日本陸軍士官學校（舊一期）學習，1877年參加西南戰爭，1883年赴德國留學，目睹毛奇領導下的全盛時期的德國總參謀部，1886年回國後，任第三師團參謀長，在中日甲午戰爭時期隨師團長桂太郎突破鴨綠江，轉戰遼東半島，得到桂太郎的高度信任，從此作為長州藩的寵兒飛黃騰達。1897年台灣軍補給部長，台灣守備隊參謀長，1900年陸軍軍務局長，1901年陸軍第23旅旅長，晉升少將，日俄戰爭期間任韓國臨時派遣軍司令，率領第23旅團首先從佐世保出發，仁川港登入後沿鐵路直驅京城，在韓國駐紮隊指揮下，首先確保韓國政府站在日本這一邊，在黑木為楨大將的第一軍指揮下從事鴨綠江渡河作戰，在第一軍的極右翼渡河，擊退來自俄羅斯軍攻擊，使之遭受很大的損害。後以本旅團為核心組成步、炮、騎混合支隊參加遼陽會戰，突襲占領饅頭山高地，10月戰場晉升為第五師團長，陸軍中將，在黑台溝會戰的時候解除俄軍對立見尚文的第八師團的包圍，擊退俄軍的反攻。1907年因歷次戰功被封為男爵，1912年12月任陸軍大臣。 因為在山本權兵衛第一次內閣修改陸軍大臣不需要現役制的時候，沒有表示反對，結果遭受陸軍冷遇，陸軍大將都沒當上就被迫退休。1920年（大正9年）為貴族院議員。1932年（昭和7年）去世。
