武士時代
為日本會津藩槍械指揮者山本權八的長子，出生於若松城(鶴之城)附近的武士人家。
山本覺馬同志社畢業式贈言山本覺馬自幼聰明過人，9歲進入藩校的日新館學習，表現良好，成績優異，可以說是菁英中的菁英，24歲那年他已練就一身的好功夫，騎馬、耍槍、舞刀樣樣無不精通。
日新館時期
根據日新館的記載，日新館有所謂的“遊學”制度，只要在該校的「素讀所」(國小)、「講釋所」(大學)修畢且成績優秀者，藩主都會批准該員前往他藩或江戶(東京)遊學，覺馬當時也得到此機會，前往最繁華的江戶一償遊學的夙願。
到了江戶新的環境，覺馬認識了佐久間象山、勝海舟，以及接觸到各藩派來的優秀人物，視野更為開擴，觀念為之丕變，覺得眼光以前只看到會津一地而已，現在不一樣了，他意識到了國家、也意識到了日本在世界到底為何物的另一層看法。
從政時代
蛤門之變
一度返回故鄉的覺馬，被任命為藩校日新館的老師，及在日新館裡開設蘭學所，還擔任軍事審訊和炮隊隊長，他總算是出人頭地了。之後覺馬被派往京都服勤，接著不久京都發生「禁門之變」(又叫蛤門之變，江戶時代末期(1864年 元治元年)的事變。以「藩主冤罪向帝申訴」為由出兵到京都的長州藩，和試圖阻止長州軍入京的會津藩、桑名藩、薩摩藩，在現在的京都御所西側的蛤御門發生戰鬥，長州藩敗戰，事變後德川幕府更發動第一次的長州征討。)擔任蛤門守備的他，打開大門展開突擊的大激戰。事變後，會津藩主獎賞戰功任命他為公務承辦人，蒙此，與幕府及各藩名士交流的機會增多，覺馬有了更大的活躍舞台。
明治時期
眼盲心不盲的山本覺馬正當覺馬準備大展才能之際，眼睛突患眼疾，遂開始過著不辨黑白的日子。鳥羽伏見戰役，支持德川幕府的會津藩落敗，薩摩藩除了將覺馬逮捕並且關在藩內。與薩摩藩成死敵的會津藩，意味著凡被對方逮捕的肯定必死無疑，而幾乎看不到任何東西的覺馬，被幽禁在人生地不熟的地方，換成一般人都會心生恐懼萬念俱灰，覺馬反倒看到一線的曙光。身為囚徒的他撰寫有關政治、經濟、教育、衛生、衣食住、貿易諸般等為主題的『管見』經世濟民文章。他的才能因而得到西鄉隆盛的高度讚譽，到了明治時期他不僅被釋放，很多『管見』所提到的事宜，明治政府多所採用更延聘他為京都的施政顧問。日本最初的國小、科學研究所、勸業大博覽會等這些，都還出自覺馬的構想呢！
覺馬眼盲心不盲，可這時卻又罹患了行走不良的毛病，覺馬最苦惱的時候他結識了新島 襄，除了贊同新島辦教育的理念外，還把從薩摩藩買來的土地破例廉價讓渡給新島，共同為同志社的設立竭盡所能，後來擔任過各種職務的他，在開拓京都的近代化有著不可抹滅的功勞。1892年山本覺馬安息主懷，享年65歲。
管見
《管見》（かんけん）是慶應4年（1868年）6月，山本覺馬寄給新政府（御政府），在政治，經濟，教育等22項涉及將來的日本的應有的制度論述了建議書。管見意為自己的見解和謙稱。
思想家、橫井小楠有富國·富國強兵·士道（經濟、國防、道德）的確立倡導的“國策”三論酷似，進一步發展。三權分立的“政體”開始，大學院·小院的兩院制的“議事院”，“學校”，“變革”制度，從封建制度郡縣制移行和世襲制的廢止，稅制改革。倡導的“國體”、“建國術”、“制鐵法”，“貨幣”、“溫飽”，女子教育實行“女學”，遺產的平均分給的“平均法”、“釀造法”、“條約”、“軍艦國體”、“港製”，“救濟貧民”“頭髮制”，寺廟的學校的開放提出“變佛法”、“商律”、“點法”，採用陽曆曆法”，大部分的建議都被明治新政府後期採用。
信仰時代
1875年，受當時在大阪傳教的美國會眾派傳教團體的影響。那時，與新島襄（其與山本覺馬妹妹山本八重（新島八重）已結婚)結識，得知新島建立學校的計畫，山本覺馬將明治維新後從舊薩摩藩購入的6000坪地給予新島，並聯名向文部省申請設立新的學校，這個學校就是後來的同志社大學。同志社即山本覺馬所命名。
