家世
段彥謨家世不詳,《舊唐書》《新唐書》均無他的傳。唐僖宗初年,他作為泰寧都將參與對黃巢的大規模農民變軍作戰。879年,朝廷命他取代江西招討使曹全晸。當時,曹全晸剛和山南東道節度使劉巨容大敗黃巢,正在追擊。朝廷讓段彥謨取代曹全晸使曹停止了追擊,黃巢及其主將尚讓得以逃脫。
控制荊南
劉巨容擊敗黃巢後回師山南東道,而前宰相諸道行營都統兼荊南節度使王鐸早在曹、劉擊敗黃巢前都逃跑了,荊南節度使空缺,無人管領。荊南監軍宦官楊復光讓忠武鎮別將宋浩在朝廷任命前代領荊南,隨後朝廷也批准了。段彥謨自認為高於宋浩,因此怨恨。880年,宋浩下令士兵不許砍伐首府江陵街上的樹木,段彥謨的一些士兵卻違反了這一規定,宋浩鞭打了他們的背,段、宋矛盾終於激化。段彥謨認為宋浩是在侮辱自己,殺入宋浩大營,殺宋浩及其二子。楊復光又上表稱宋浩太殘酷,所以被殺。據《新唐書》楊復光的傳記載,楊因宋浩同樣不敬自己,對段彥謨的行為予以鼓勵。僖宗敕段彥謨為朗州刺史,工部侍郎鄭紹業為新任節度使。段彥謨顯然無意去朗州赴任,而鄭紹業害怕控制荊南的段彥謨,也不去赴任,拖延半年之久。隨後,881年初,黃巢攻占京城長安,僖宗被迫逃往成都,召回鄭紹業,任段彥謨為荊南節度使。
身亡
段彥謨和新任監軍宦官朱敬玫很快發展成敵對關係。朱敬玫招募三千精兵號為忠勇軍,親自統轄。段彥謨生氣了,決定殺掉朱。但882年夏,朱敬玫先發制人,攻殺段彥謨,以江陵少尹李燧為留後。僖宗再次任鄭紹業為荊南節度使,但鄭猶豫著沒去荊南赴任,朱敬玫讓押牙陳儒領荊南事。