上已日蘭亭修禊時所作的《蘭亭集序》，成為我國書法藝術中的瑰寶。在蘭亭聚會後兩年，王羲之因不受朝廷重用，即“稱病去郡”，盡水山之游（《晉書·王羲之傳》）。然而，王羲之“去郡”以後終老何處，因史籍語焉不詳，史家持論不一。
部分學者認為，王羲之南徙到山陰（今浙江省紹興縣）時，正值紹興鑑湖水利工程發揮作用的全盛時期，其時，土地墾殖，農業發達，山青水秀。因此王羲之被這裡的山水所吸引，曾吟出“山陰道上行，如在鏡中游”的千古名句。以後，又在此任會稽內史數年，從而有機會盡情地享受這裡的自然美景。王羲之決心終老於山陰是情理中事。王羲之七世孫、永欣寺高僧智永，就因其先祖墓在雲門山，為便於拜掃，從永欣寺移居雲門寺（《紹興縣誌》）。智永乃王氏後人，且距王羲之相去不甚遠，其祭祀最顯耀之祖王羲之當在情理之中。因此王羲之當終老山陰。
持異議者指出，所謂王羲之因慕稽山鑒水而決心終老山陰，乃是臆測。因為王羲之所賞嘆的地域範圍不僅限于山陰，還包括今日的嵊縣、新昌等地。智永所謂之“先祖”，雖則是可能包括王羲之在內的智永父輩以上的祖父、曾祖等，但不能就此斷定其所言之墓即為王羲之墓。
部分學者據宋《嘉泰會稽志》認為王羲之非終老山陰而是在諸暨薴蘿。該志卷六載，王羲之“墓在（薴蘿）山足，有碑。孫興公為文，王子敬所書也”。據《晉書·孫楚傳附綽》載：“溫、王、郗、庚諸公之薨，必須綽為碑文，然後刊石焉。”孫綽是王羲之好友，有孫綽所作的碑文，又與正史所載相合，當屬可信。況《嘉泰會稽志》是南宋著名詩人、浙東史學派代表人物陸游主持編纂，其史學價值歷來評價甚高。然而，有人認為《晉書》所言之“王”不能妄斷就是王羲之，也可能是王羲之的父輩王曠、王異，昆弟彪之、興之，或子侄輩徽之、越之等人，甚至包括了與王羲之不洽的王述等。總之，凡是當時的王姓貴族、聞人都有可能。還有些持王羲之生卒年為321—379年的學者指出，孫綽早王羲之九年去世，王羲之不至於在孫綽生前就請他為自己寫好墓碑。因此，王羲之終老諸暨薴蘿說不足信。
近年來，傾向於終老嵊縣金庭說的學者較多。學者們指出此說可信的理由是：一、可據的史料較多。唐人裴通在《金庭觀晉右軍書樓墨池記》中說：“（王羲之晚年）家於此山，書樓墨池，舊制猶在。”白居易《沃洲禪院記》中載，越之金庭“高士名人許玄度、孫綽、王羲之等十八人或游焉、或止焉”。《浙江通志·名勝志》載，王羲之好友許詢（玄度）聞知王氏隱居金庭，特從蕭山遷來嵊縣與王羲之為鄰，卒葬於孝嘉鄉濟度寺。因而李白有詩云：“此中久延佇，入剡尋王許（《送王屋山人魏萬還王屋》）。”詩中所指“王、許”，該是指王羲之與許詢。此外，宋人高似孫撰《剡錄》卷四載：“金庭洞天，晉右軍王羲之居焉。”又云：“王右軍墓，在縣東孝嘉鄉五十里。”此後歷代縣誌均有類似記載。王氏第47世孫王鑑皓主修《金庭王氏族譜》也載：公元361年王羲之病逝，子嗣以“右軍愛金庭之勝，胥宇於此，歿，遂埋王於居宅之旁”。王氏5世孫衡舍王宅為金庭觀。《族譜》指明王羲之乃“自琅琊遷會稽、自會稽遷金庭之祖”。二、惟金庭至今留有遺蹟。今金庭觀右，還豎有清道光二十九年（1849年）王氏裔孫秀清所建立的王羲之墓道和碑坊，墓則在觀後的瀑布山麓，墓前還有明弘光年間立的墓碑。金庭觀今存山門、大殿。筆者數次到過金庭及其周圍鄉村，聽到過不少有關王羲之晚年隱居金庭的傳說。金庭附近有許多地名與王氏有關。如華堂鄉（村）、靈鵝村、王罕嶺等。今新合鄉有十幾個自然村以王姓為主，多自稱為王羲之後裔。三、王羲之生活在佛道鼎盛之時，當時的世俗學者、官宦中也多有精通佛道、崇尚隱逸者。王羲之與當時高僧竺法潛、支遁、白道猷等交往甚密，這些僧人多在距金庭不遠處建寺修禪。金庭在當時被稱為道家第七十二洞天，剡山成為當時佛道修行者的中心地。王羲之崇尚隱逸，又為了便於與高僧交往，其辭官後選中金庭為歸隱終老之所是很有可能的。
雖然，也有人對嵊縣金庭說有異議，如，所謂的王氏《族譜》不盡可信，為何正史不收其碑文，本傳也不見載？墓中出土的磚為何是梁大同年間的？等等。但是，嵊縣金庭墨池尚在，墓穴猶存，譜牒可稽，史籍記載亦最多，因此，王羲之終老金庭說近年來頗有為眾所認同之勢。國內外許多專家學者、書畫家前往瞻仰，中央電視台也播放過墓地全景。儘管如此，金庭說仍未是定論。因而，金庭王羲之墓地至今也還只是一個縣級文物保護點。
