籌辦學校
同 年冬歸國，立即著手籌辦學校，1903年3月與表兄龍璋（時任江蘇泰興知縣）、龍絞瑞兄弟商量，並得到龍絞瑞的父親、前清刑部侍郎龍湛霖的2000元資助，租賃長沙左文襄公祠為校舍，創辦了湖南明德學堂。由龍湛霖任董事長，自任監督（即校長），從此把教育事業作為"磨血事業",而自己就是"磨血之人",為發展中國教育事業特別是辦好明德學校付出了畢生的精力。
創辦明德學堂
胡元倓是湖南新興教育事業開拓者，所創辦的明德學堂是湖南最早的新式私立中學，比天津南開大學還早一年。明德學堂，近代湖南第一所私立新式學堂，曾經薰陶了多少三湘學子、志士名人，劉公武、寧調元、陳果夫、蔣廷黻、周谷城、任弼時、周小舟等先後曾在該校就讀。蔡元培曾說：“今觀宣勞黨國之同志，出於明德者甚眾。”
辦學宗旨
胡元倓辦學宗旨在於儲才建國、復興民族。近代中國硝煙不斷，太平天國、戊戌維新、義和團運動均以失敗而告終，救國的道路在哪裡? 光明在何方? 一批有志之士都在急切地思索著這一問題。於是，各種救國思潮紛紛湧現，“教育興邦”就是其中之一。
康梁時代
早在康、梁時代，朝野上下就基本上認識到了救國需要人才，梁啓超把“救敝之法，歸之於廢科舉、興學校”。但這些人的“教育興邦”是建立在改良主義基礎之上的。資產階級革命派則把教育與革命聯繫起來。作為教育家的胡元使，順應革命的潮流，主張以革命為前提的教育興邦。他認為，對當時的中國，革命是必要的，“革命是打亂了再做”，不革命便不能打碎舊的腐朽的國家機器，一切改革便無從談起，但革命也只能打亂，不能再做，再做的任務須由教育來承，教育才能培養建國各方面的人才，只有通過這千千萬萬人才的努力，才有可能把中國建成一個強國。他看到日本福澤諭吉創辦慶應義塾對明治維新產生的巨大而深遠影響，因而更堅定了辦學的信念。
辦學歷程
明德學堂從開始創辦就遇到了生存、師資、經費等諸多困難。面對以王先謙、葉德輝為首的守舊勢力的強烈反對、百般刁難，他頂住壓力，費盡心血，與之進行巧妙的鬥爭，經過多年斡鏇，克服各種困難，終於取得湖南巡撫趙爾巽的認可和支持。他以誠待人，多方羅致人才，延聘水平高、素質好的新學教員，還邀請黃興、張繼、周震鱗、蘇曼殊等革命人士來校任教，專從日本請來理化、博物教員。
教育界佳話
為挽留在日本時的同學陳介任日語翻譯，他長跪不起，在湖南教育界傳為佳話。為了籌措教育經費，他四處奔波，想方設法，"這裡請津貼，那裡求募捐",經歷了千辛萬苦，遭人白眼，被稱為"胡大叫化"亦不介意。他聘立憲派人物曹典球等任明德教職員，聘省都督譚延闊為明德總理，以獲取資助。有不樂意捐助的，還以"人生大不幸，碰到鬍子靖"相譏，他嗤之以鼻。北洋政府內閣總理熊希齡是其老朋友，他常去找熊募款，遇到熊外出未歸，就自帶被褥睡在熊的家裡等待，不達目的不罷休。由於他這樣艱苦努力，明德學堂得以逐步發展壯大，並形成獨特的教育體系。開辦之初只招收兩個中學班，共80人。1903年8月得譚延闓資助，增招速成師範班。1904年春向湘潭同鄉袁樹勛募款萬元，新設理化博物科。同年夏增設高等國小。後又增設初等國小。還增設語文、商業等專修科，以適應社會需要和解決中學生出路問題。學校學生達600餘人，成為清末湖南規模最大的新式私立學校，深受時論好評。1908年，他在南京創辦的銀行專科，後正式改為南京高等商業學堂，還在上海、漢口設立分校。1913年又在北京創辦明德大學，聘章士釗任校長。1926年以後，明德堅持長期專辦中學，致力於培養中等專業人才。
磨血辦教育
辦教育不是一朝一夕的事，它需要長期的艱苦跋涉。需要具備堅韌的磨血精神，始終如一，才能有所成交。胡元倓深刻地認識到這一點，他說：“凡辦學校要有恆心，要慢慢來，不能希望今天創辦，明天、明年就能辦好。”“從表面上看，教育不會有什麼危險。但要教育能達到成德達材的任務，為國家造就有用的人才，這卻不是一件容易的事，是一種需要發奮努力的艱苦事業--磨血事業。中國的建國問題非這樣不能解決。”他曾對黃興說：“公倡革命，乃流血之舉；我為此事，則磨血之人也。”並刻了一枚“磨血人”的圖章，以“磨血人”自許。正是這種非凡的磨血精神，使他不為冷嘲熱諷所嚇倒。也不為困頓顛沛所折服，抱定初衷，至死不渝。他堅信教育事業總是有希望的，儘管困難重重，但山窮水盡之後，必定是柳暗花明。他還請王闓運寫了兩匾：“忍耐為希望心”、“雖九死吾猶未悔”，以自惕勵，又刻一“從苦打擊”的石章來表示其樂觀與堅定。也正是這種磨血精神，造就了明德眾多的英才，樹起了明德這塊豐碑。
校舍建設
從胡元倓手中流過的錢，不知其幾多萬矣，所有這些款項都一點一滴融入了學校，明德修建了宏偉的圖書館、教學樓以及舒適的學生宿舍，圖書儀器之多，“視大學無遜色”，而胡校長本人卻一直過著十分清貧的生活。在明德幾十年，儘管校舍雄偉壯麗，他卻一直住在一連三間又窄又矮的小土房裡，既無地板，也無套房；一家人經常在學校食堂搭餐；終身只有一個傭僕老畢；直到1930年，他已是58歲的人。才擁有一輛六成新的人力車，而這還是大陸銀行總理傅麗行送的；一襲敝裘也為學生周安謨所贈，他甚至曾因衣著樸素而被擋在清宗室振貝勒的門外，後借衣袍雇馬車方得以進。
一生愛國
他一生愛國，"決心以教育救國，培養中級社會人材",認為"養成中等社會，實為立國之本"。他十分欽佩黃興的革命精神，多方維護其從事的革命活動。1904年，黃興領導華興會在長沙籌劃反清起義事泄，遭到清政府的搜捕。他挺身而出，竭力救助其脫險。他曾對黃興說："公倡革命，乃流血之舉；我為此教育，是磨血之人也"。曾刻石自署"磨血人"。他希望自己能夠磨出許多報國人才，從創辦明德之初起，就十分注意德智體三育並重，將"堅苦真誠"作為校訓。為了實踐教育救國論，他不管遇到多大困難，不折不撓，仍銳意發展教育。武昌起義後，黃興擬請他出任南京臨時政府教育總長，他堅辭不受，寧願赴京籌備明德大學。1915年袁世凱復辟帝制，他憤而將明德大學停辦，以示抗議。
耐庵文集
1919年11月，他領導湖南公私各校聯合停課，參與驅張運動，直至次年5月驅張成功才複課。1919年明德大學遷至漢口，因經費困難，他親赴南洋勸募，所得捐款全數用於教育。1929年曾一度任湖南大學校長。1938年任國民參政會參政員。同年長沙文夕大火，明德中學校舍被毀，將學校遷往湘鄉縣霞嶺鄉繼續辦學。他對師生說："校舍雖焚，精神猶存。"其時，他年事已高，仍為抗戰和教育奔走於湘鄂川黔各地，後定居重慶。1940年11月24日在重慶歌樂山八塊田寓所病逝，終年68歲。著有《耐庵文集》4卷。1948年歸葬長沙嶽麓山。
北有南開,南有明德他經營明德學堂近40年，明德中學與天津南開中學齊名，享有"北有南開，南有明德"的殊譽，培養了大批優秀人才。蔡元培說過："今觀宣勞黨國之同志，出於明德者甚眾。"據不完全統計，全國解放前，明德學校培養學生近萬名，養成了"堅苦真誠"的良好校風。
教育精神
國家圖書館所藏的《趙鳳昌藏扎》里有十餘封胡元倓致趙鳳昌（字竹君）的信函，表達了他的辦學經歷和辦學思想，信中可見他辦學籌款之不易以及他矢志不渝的辦學精神。
“竹君先生執事去冬趨候起居備承教言後鏇即赴寧返湘?料理年事及開學?常年經費雖不起恐慌?而校舍患水十年五淹?非遷地非持久之方趁此餘年再為運動?”
“談及借款事?契約亦辦妥季翁亦知弟藉此兩萬後即月月運動償還之法?”“昨晚迓揆初於車棧?因送其至家?將近日情形縷告之渠今日必晤時勛也?此款如數如期則倓七年辛苦均有價值?否則?七年精力盡赴東流?真有得之則生?不得則死實像然”
“竹君先生執事今春訪寓承教大慰數年來渴思?不料和局停頓?學潮遽興波起雲涌?氣象萬千?弟系辦學之人?北京大學湘生明德中學居多數?因此亦稍為人指目遂不與聞他事?壹志為明德學校盡力?此次變動?不能不歸功於學校?弟系以身殉學之人尤不敢不自勉也“
”凡辦大學必須欲養成教員而為教育者必須無政治野心且有以教育事為終身事業者?學校方有辦法弟屢次辦專門學校輟於中途?皆因回國人才借學校為過路成自己名譽?對學校無繼持之熱心也”
