這兩塊石頭，作用極大，一是顯示主人的等級，因為馬、驢、騾是舊時代步的主要工具之一，加之清代滿蒙等民族有騎馬狩獵的祖習，清代朝廷規定：滿洲官員出門，無論文武，均需乘馬，以不忘先祖遺風，清官員有“前引”，“後從”的定例，即主人外出時，奴才和僕從也要騎馬，前呼後擁地跟隨，即使後來主人們乘車、乘轎，僕人也要騎馬左右跟隨。所以，舊時北京的府第和大四合院、大會館的門前都在左右有上下馬石。住宅門前有沒有上下馬石也是宅第等級一個劃分標準。
二是上馬時真離不開它。每當主人慾外出時，僕人便牽馬備鞍至上馬石前，主人上上馬石的兩步台階，就可以輕易地腳登馬蹬、騎上馬背出行了。假如主人年高上馬不便，上馬石則可幫他大忙。門前的兩塊上馬石，一塊是供主人出行時登高上馬用的，另一塊是供主人歸來時下馬用的，但不叫下馬石。因為舊時，下馬是不受聽的。這一點，負責牽馬的僕人是最知情的。
三、在西漢末年，相傳王莽來到此地。由於王莽個子矮小，不易上馬，在此地豎立一個上馬石，於是此地的老百姓便以此為名，建立了村莊，流傳至今。
