2004年,上海中醫藥大學研究生管理部門從研修部改為研究生院,陳凱先校長擔任研究生院院長,校黨委書記、常務副校長謝建群教授擔任研究生院第一副院長,設常務副院長負責研究生院日常工作,加強大學對研究生教育工作的領導。
研究生院下設行政、招生、培養和學位、學生管理和就業等科室,目前再編行政管理人員11位,學生輔導員2名,其中具有碩士學位以上6名,副高以上職稱7名。各學院由負責研究生管理的院長、教學處(科)長和研究生專兼職輔導員等具體負責研究生的日常管理。根據上海中醫藥大學研究生的實際情況,學校採用二級學院輔導員既負責研究生政治思想工作,也參與研究生培養和學位等日常教學管理工作的模式。