1900年出生於耕讀之家，青少年在家鄉學校習讀，由於勤奮學習，學業成績較佳。1924年8月考上廣州黃埔軍校第2期。與王毅、王景星、王武華等分編在步兵科，何其俊租王家槐、丘士深等分在工兵科，由此開始軍旅生涯。在校期間，第2期學生總隊被編入戰鬥序列，隨軍參加平定廣州商團武裝叛亂和第一次東征以及平定滇桂軍閥楊希閔和劉震寰的叛亂。1925年9月6日，任國民革命軍第1軍工兵營見習排長。月底，奉命隨軍參加第二次東征。何其俊率工兵排參加攻打惠州城戰鬥。第二次東征勝利後，何其俊被任命為工兵排中尉排長。
1926年7月，隨軍北伐，先後升任工兵連上尉連長，少校營長。1927年秋，調任黃埔軍校第7期學生總隊工兵中隊少校中隊長兼教官。同年冬，廣州黃埔軍校奉蔣介石之命遷址南京，更名為中央陸軍軍官學校。何其俊隨校赴寧，後升任軍校工兵大隊上校大隊長兼教官。
1928年參加第2次北伐，討伐張作霖。此後相繼參加蔣、馮、閻的中原大戰和“圍剿”中央蘇區工農紅軍，後又調返中央軍校充任第12期至17期學生總隊土兵大隊上校大隊長兼教官，不久升任副總隊長。其中，1939年曾受派人中央訓練團第4期受訓結業，後仍回第4軍分校繼續擔任原職。1941年調升第9戰區野戰補訓旅少將旅長。不久調任暫編第12師少將副師長、78師少將副師長，率部參加粵北戰役，殲擊侵華日軍。1942年調任陸軍工兵獨立團少將團長，率部參加抗戰立功，1943年獲頒陸海空甲種一等獎章一枚，不久，調升第7戰區少將工兵指揮官兼任陸軍工兵獨立團第11團團長。
1945年抗日戰爭勝利後，軍隊整編，何其俊調任衢州綏靖公署參議。1948年奉調返瓊出任海南特別區專員公署少將高參，海南特區警備總部高級參謀辦公室主任。1950年4月，海南解放前夕，隻身隨國民黨軍隊敗退台灣。去台後調任“國防部”少將高參。屆齡退役後，遞補為澄邁縣“國大代表”。1973年病故，終年74歲。
