青年時代
伊俊山1908年11月生於吉林省拉林東城子溝子沿屯（現黑龍江省五常市拉林鎮）的一個地主家庭。由於祖父、為吸食鴉片，家產揮霍罄盡，只剩幾畝薄田。他幼年喪母，先在本屯私塾讀書，後入雙城第三中學學習。1927年入北平弘達學院補習。次年考入外交部俄專，該校後改北平大學商學院，伊俊山專攻俄語和經濟學專業。
1928年10月，伊俊山東渡日本留學，考入日本東京鐵道學校。1930年歸國。1931年參加反帝大同盟，與閻寶航、高崇民、杜重遠在中國共產黨組織號召下，參加抗日宣傳活動。
抗日事跡
1933年，伊俊山大學畢業，返回東北，投身到民族解放戰爭的最前線，開始了戎馬生涯。1934年，伊俊山與老同學――中共寧安縣委書記李范五取得聯繫，送即投奔抗日游擊區。同年他在寧安縣與反日同盟軍辦事處主任周保中會見。
1935年2月，東北反日聯合軍第五軍成立，伊俊山任第一師第三團政委，參加並參與指揮了寧安襲擊叛徒鄭營戰鬥、進攻大甸子、雙溝突圍等大小戰鬥十餘次，沉重打擊了日偽的囂張氣焰。
1937年，在周保中指揮下，伊俊山與抗聯第三、四、五、八、九各軍760餘名指戰員攻打伊蘭縣城，斃敵300餘人，破壞了敵人的城防設施、銀行，擴大了抗日聯軍的聲威，推動了下江地區抗日鬥爭的發展。動搖了偽軍、偽警的軍心。三道河子偽森警大隊、偽軍第三十八團、第二十九團先後譁變，走上抗日道路。1937年3月，伊俊山被抗聯第五軍軍部派到第二軍獨立旅任政委。四月，獨立旅由伊蘭、方正兩縣交界之三道溝出發向南滿遠征，歷盡艱險，經半年的行軍，在蒙江縣與第二軍政委魏拯民所率的第二軍軍部會師。
同年11月下旬，魏拯民和伊俊山在蒙江、撫松與日偽軍冬季“討伐隊”相遇。他們晝伏夜行，抓住戰機，控制制高點，殲敵百餘名，繳獲一批槍枝彈藥及兩台發報機。戰鬥勝利結束後，魏拯民、伊俊山帶領部隊進入金川縣活動。部隊到達金川後，迫使駐防渾江兩岸的敵人出洞，我軍突然進入通化、輯安縣境，向老嶺進發。伊俊山在老嶺，參加了抗聯第一路軍和中共南滿省委負責幹部會議。會上，他報告了北滿、吉東抗日形勢及第二軍獨立旅南征的情況。
1940年，伊俊山調任第一路軍第二方面軍政治部主任。
抗戰勝利
抗戰勝利後，伊俊山於1946、1947年間先後擔任牡丹江軍區政治部民道科長、綏陽縣縣長、專員公署秘書室主任，牡丹江省建設廳秘書主任等職。 1953年，伊俊山調冶金部黑色冶金設計公司任副經理。他自抗戰離家，從未歸家探親。 1958年，伊俊山抱病出席公祭楊靖宇將軍大會，並即會賦詩言志。 1964年，正當伊俊山為社會主義建設而勤奮工作的時候，病情不斷惡化，終因醫治無效，於1964年3月18日在北京病逝，終年56歲。
