公墓四周小河環繞，正大門前架有小橋，橋上設鐵門，上面鐫刻“薤露園萬國公墓”字樣。墓地內芳草萋萋，鮮花似錦。大路、小道旁樹木參天，綠蔭覆蓋，氣氛莊嚴肅穆。
解放前，萬國公墓大門和殯殮隊伍
作為名聞遐爾的上海一流公墓，墓葬者有清朝、國民政府的達官顯貴和富商巨賈，其中有曾任清政府四川總督、兩廣總督和郵傳部尚書的岑春煊，李鴻章之弟、曾任清政府郵政大臣的李伯行，清政府上海道台袁伯夔等。墓葬者還有辛亥革命以來的社會名人和進步人士，如宋慶齡的父母宋耀如和倪桂珍，辛亥革命早期活動家黎仲實，曾任孫中山、張學良和蔣介石顧問的澳大利亞人端納，國民黨上海招商局長趙鐵橋等。民國25年，魯迅逝世後，也安葬於此。
民國26年，公墓紀念廳堂內的家具擺設和園內大樹被侵華日軍搶劫盜伐殆盡，部分建築被炮火毀壞。汪偽政權上台後，遂由其接管。抗戰勝利後，又歸國民黨政府管理。
1949年5月解放後，公墓由上海市人民政府衛生局接管，後劃歸市民政局。當時共有墓葬2600餘座。公墓經修葺一新後，開辦骨灰安葬業務。
“文化大革命”初期，公墓遭到毀滅性破壞，墓藏幾乎全被砸毀，花木和建築無一倖存，墓地成了工廠和菜園。後在國務院總理周恩來親自過問下，拆毀的宋慶齡父母合葬墓得到修復。1973年，市民政局收回包括宋氏墓地在內的30畝土地，恢復萬國公墓，並在張虹路（今宋園路）新開東大門，建造外賓接待室、辦公室等。1980年，又收回土地19.16畝，1981年，公墓收回全部土地，並擴大至151.95畝，萬國公墓建有國內名人墓園和外籍人墓園。
一、名人墓園
上海市萬國公墓名人墓園，占地1.1萬平方米，遍植花木，布局採用園林式，整個墓區一片綠草如茵。
民國25年10月19日5時25分，魯迅因氣胸導致心力衰竭而長逝於大陸新村9號寓所，遺體葬於萬國公墓。魯迅墓地處萬國公墓東側下區，占八穴位置，每穴長366公分、寬183公分，總面積53.6平方米。
魯迅棺木由宋慶齡和茅盾夫人孔德祉在萬國殯儀館選定，楠木製作，深紅色，左右各有兩個銅拉手，棺內襯白緞，有枕，上加內蓋，上半身為玻璃，下半身為薄板。魯迅遺體穿白紡綢襯衫褲、咖啡色薄棉袍、白襪、白底黑面布鞋，外裹褐色棉衾，上覆緋紅色面子湖色夾里的彩繡棉被。
10月22日下午4時半，魯迅葬儀在萬國公墓禮堂前舉行。由蔡元培致辭，沈鈞儒報告事跡，宋慶齡、日本友人內山完造、章乃器、鄒韜奮、蕭軍相繼致詞，胡愈之宣讀悼詞，許廣平朗讀題為《魯迅夫子》一文致哀。向靈柩行禮默哀後，王造時、沈鈞儒、章乃器、李公朴獻旗於柩上，旗為白緞錦旗，長202公分、寬103公分，上貼沈鈞儒書寫的“民族魂”三個黑絨大字。數千民眾參加魯迅葬儀。
魯迅墓碑由夫人許廣平親自設計圖樣。又選出魯迅民國22年為斯諾編譯《活的中國》所攝的照片，由周建人去畫像店燒制瓷像。魯迅逝世周年時，水泥碑立於墓穴之後。墓碑呈梯形，瓷像嵌在墓碑上部。11月19日，許廣平訂購柏樹21株，給墳地加土、種樹、鋪草，始成墓區設定。
八一三戰火中，公墓遭破壞，魯迅墓地雜草叢生，瓷像破裂缺損，樹木稀疏不齊。後內山完造讓人除去雜草，補種冬青樹。民國33年，設法重新制換瓷像。新瓷像大小和原狀相同，繪像風格略異。
民國36年夏，許廣平設計繪製“魯迅墓園圖”，按圖改建後的墓為正方形，南邊正中入口，三步石級，迎面是4隻（1大3小）供瞻仰者插花的胖肚形毛石花瓶，後是墓槨，再後為野山式墓碑，碑頂左右呈圓形，碑身斜向鑿多條寬溝，碑面嵌有黑石板，上鑲橢圓形瓷製魯迅遺像，像下刻周建人所書“魯迅先生之墓，一八八一年九月二十五日生於紹興，一九三六年十月十九日卒於上海”的陰文貼金碑文。墓四周，以毛石作圍，沿圍石遍植冬青，近冬青種12棵柏樹，其中周恩來和許廣平於民國35年種的兩棵柏樹移至墓左右方。原墓碑側臥在墓穴右前方。1956年10月14日，魯迅先生靈柩移葬到虹口公園新建墓地。
整個名人墓園設有99個穴位，共葬有名人15人。名人墓區的雕塑群體，造型設計具有紀念性、藝術性、整體性。
1995年底萬國公墓名人墓區墓葬情況表
| 墓穴號 | 姓名 | 性別 | 籍貫 | 生卒年 | 簡況 |
| 1 | 金仲華 | 男 | 浙江桐鄉 | 1907～1968年 | 上海市副市長 |
| 2 | 楊杏佛 | 男 | 江西清江 | 1889～1933年 | 中國民權保障同盟副會長兼總幹事 |
| 5 | 謝晉元 | 男 | 廣東蕉嶺 | 1905～1941年 | 抗日名將 |
| 7 | 王屏南 | 男 | 福建莆田 （祖籍山西） | 1893～1950年 | 上海抗日義勇軍負責人 |
| 19 | 張樂平 | 男 | 浙江海鹽 | 1910～1992年 | 著名畫家 |
| 20 | 周信芳 | 男 | 浙江慈谿 | 1895～1975年 | 上海京劇院院長、著名京劇藝術表演家 |
| 21 | 馬相伯 | 男 | 江蘇丹陽 | 1840～1939年 | 復旦大學創始人 |
| 29 | 周作民 | 男 | 江蘇淮安 | 1884～1955年 | 金融家 |
| 33 | 盛丕華 | 男 | 浙江寧波 | 1882～1961年 | 上海市副市長 |
| 34 | 顏惠慶 | 男 | 上海市 | 1877～1950年 | 外交家 |
| 53 | 俞振飛 | 男 | 江蘇蘇州 | 1902～1993年 | 上海京劇院院長 著名京劇、崑劇藝術表演家 |
| 57 | 江紹基 | 男 | 江蘇無錫 | 1919～1995年 | 醫學界傑出代表、中國工程院院士 |
| 72 | 陳鶴琴 | 男 | 浙江上虞 | 1892～1982年 | 兒童教育家 |
| 73 | 楊度 | 男 | 湖南湘潭 | 1874～1931年 | 政治活動家 |
| 74 | 黎仲實 | 男 | 廣東肇慶 | 1886～1919年 | 辛亥革命早期活動家 |
二、外籍人墓園
萬國公墓原有外籍人墓區，“文化大革命”中遭破壞。1976年起，陸續把葬在浦東公園的部分外籍人遺骨遷葬於此，共葬有25個國家的640位人士，大多為知名度較高的外籍人，其中有韓國臨時總統朴殷植、軍務部長盧柏麟等。“文化大革命”中遷到浦東公墓的內山完造夫婦，也在此時遷回。
內山完造於1959年9月應邀來中國參加中華人民共和國建國十周年大典，不幸因腦溢血於9月21日在北京逝世。遵照其生前遺願，遺體在北京火化後，骨灰護送到上海與已故夫人美喜子合葬在萬國公墓。
內山完造墓於1967年遷到浦東公墓，1976年又遷回萬國公墓外籍人墓區內。墓地面積由遷出前的4.5平方米擴大到36平方米，兩座並列的橋式墓碑上分別刻著：“內山書店創立者內山美喜子之墓”、“內山書店結束者內山完造之墓”。墓前書形的碑上刻著作家夏尊所撰寫的碑文：“以書肆為津梁期文化之互動生為中華友歿作華中土吁嗟乎如此夫婦”。
1985年，為紀念內山完造誕辰一百周年，有關部門在新立的紀念碑上刻上日中友好協會顧問、作家小澤正元手書的中文正楷：“內山完造先生為日中兩國人民的友誼作出了卓越貢獻的精神永垂不朽內山完造先生誕辰百周年紀念一九八五年九月小澤正元書”。翌年，在紀念碑上又鑲嵌內山夫婦的合影瓷照。
中共十一屆三中全會後，經上海市人民政府批准恢復萬國公墓外籍人墓園。整個園內樹木蔥籠，綠草如茵，環境整潔寧靜。名人墓地及墓碑設計新穎莊重，造型各異，達到紀念性與藝術性的統一。
