毛瑟公司的歷史可以追溯到1811年7月31日，當時符騰堡（Württemberg）國王腓特烈一世（FriedrichI）在德國黑森林的一個小鎮奧伯恩多夫（Oberndorf）建立一間皇家兵工廠，該工廠於第二年開始運作，雇用了133個工人，專門為普魯士軍隊生產武器。毛瑟兩兄弟——威廉與保羅自小就跟隨父親在這家兵工廠當學徒，也是在這家工廠開始嘗試設計槍枝。在1867年，毛瑟兩兄弟以法國的夏塞波後裝槍為基礎，設計了一種旋轉式閉鎖槍機的後裝單發槍，這種步槍於1871年被德國軍隊採用，並命名為71式步槍，這就是歷史上第一支毛瑟步槍。威廉·毛瑟（WilhelmMauser）在1882年1月13日去世後，保羅·毛瑟（PaulMauser）繼續在輕武器設計方面進行研究。為了提高71式步槍的射速，保羅·毛瑟在槍管下方增設了一個管狀彈倉，這種改進型後來被命名為71/84式步槍。
到了1886年，法國率先採用了以無煙發射藥為推進藥的勒貝爾（Lebel）1886步槍，無煙發射藥使步槍彈頭的初速和有效射程都大大提高，世界各國對無煙發射藥技術都趨之若鷲，德國也需要儘快換裝無煙發射藥步槍，於是就在1888年通過一個軍事委員會把無煙發射藥和曼利夏式彈倉和其他國家的步槍上的先進技術都揉合在一起，從而誕生了眾所周知的1888式“委員會步槍”（1888CommissionRifle），這種步槍發射的步槍彈被命名為“8×57J”。
當時德國步槍的設計和生產都掌握在保羅·毛瑟手裡，他很不滿意德國軍隊擅自設計和採用88式步槍，並開始著手對毛瑟步槍進行改進，很快就推出了毛瑟1889式和毛瑟1891式；其後，保羅·毛瑟又設計了一種不隨槍機旋轉的拉殼鉤，提供了供彈可靠性，並推出了毛瑟1892式步槍；在次年推出的毛瑟1893式步槍又把單排彈倉改為雙排彈倉，使彈倉長度縮短。在政府的支持下，毛瑟步槍很快就在全世界流行起來，也促使保羅·毛瑟不斷地改進和完善他的設計，先後推出了1894式和1895式步槍。從92式到95式這一系列的毛瑟步槍被賣到比利時、西班牙、墨西哥、智利、烏拉圭、南非共和國（布爾人德蘭士瓦和奧倫治自由邦）、中國和伊朗等等國家。隨著毛瑟步槍的名氣不斷攀升，保羅·毛瑟也逐漸全面控制了皇家兵工廠的股份，最終在1897年把皇家兵工廠重新改組成毛瑟武器製造股份公司（WaffenfabrikMauserAG）。
除了生產步槍外，毛瑟公司也生產該工廠雇員菲德勒三兄弟設計的駁殼槍，但由於該手槍最後申請專利的是公司的老闆，所以這種手槍也被稱為毛瑟手槍。毛瑟公司最著名的產品是98K式短卡賓槍，這是二戰前在原來的98式步槍的基礎上改進和縮短而成的，並在二戰期間成為納粹德國的制式步槍。在1940年，毛瑟公司被邀請參加新型半自動步槍的投標，但可惜毛瑟公司的G41(M)試驗失敗，在經過短期試產後就被取消。
當納粹德國戰敗後，奧伯恩多夫處於法國的控制之下，整個兵工廠遭到占領軍的破壞。後來，3個毛瑟公司的前雇員在奧伯恩多夫建立了H&K公司，H&K公司最終完全取代了毛瑟公司為德國軍方供應輕武器。現在的毛瑟公司只是屬於德國防務企業萊茵金屬公司（Rheinmetall）下的一個子公司，其主要的業務只是生產BK-27轉膛式自動炮，在輕武器業務方面已經完全沒落，只有一些名氣不大產量不多的民用產品。
