軍隊組成
洋槍隊常勝軍（Ever Victorious Army），原稱洋槍隊。
中國清政府與外國勢力聯合組建的一支僱傭軍，裝備近代西方武器，參與了鎮壓太平天國起義、捻軍的戰鬥行動，活動時間為1860年～1864年。
1860年，華爾在中國相關人士支持下，招募流浪在上海的200餘名西洋盲流組成一支僱傭軍。青浦首役戰敗後，華爾遣散其中大部分人，僅餘下少部分作為軍事主官，另以一批菲律賓僱傭軍為骨幹，又招募了數千中國人（1000～3000人），組建“洋槍隊”，這也就是“常勝軍”的前身。在其頂峰時期，部隊人數曾多達5000人。
常勝軍的軍隊架構也是從洋槍隊建立之初便確定下來，即：以西洋軍士作為軍事主官，招募“華勇”作為士兵；配發當時先進的火器，並使用西方先進的訓練方法操練部隊。
戰鬥經歷
常勝軍炮兵1860年7～9月，洋槍隊先後在中國松江、
青浦兩地被太平軍李秀成部打得大敗，損失慘重。其後，清政府為洋槍隊再次擴大投資，購買新式槍炮，不斷擴大編制，兵員達1200餘名，企圖與太平軍一決雌雄。1862年2月初，太平軍李秀成部第2次進攻上海，洋槍隊以其優勢兵力在松江一帶打了幾個勝仗，清政府便將洋槍隊首領華爾升為三品官，並將洋槍隊更名常勝軍。
鹹豐十年（1860），美國冒險家F.T.華爾經清蘇松太道吳煦贊助，於6月2日成立洋槍隊，有百餘人，以華爾為統領，美國人E.法爾思德（E. Forrester)和H.A.白齊文(H.A.Burgevine)為副統領，總部設在松江。次年8月，洋槍隊在松江改組，由歐美人任軍官，中國人當兵，擴編為700餘人，隨後又增至2000餘人。同治元年（1862），洋槍隊改名常勝軍。3月，清政府授華爾為參將，以吳煦為督帶，楊坊會同華爾為管帶。常勝軍人數雖達5000，但與太平軍作戰中屢戰屢敗，英國人在這個時候抵達，英國將軍斯特維利(William Staveley)決定與華爾和另一支小型法國軍隊將上海30英哩內的太平天國勢力逐出。嘉定、青浦原本被太平軍占領，在1862年底這些地區基本上被洋槍隊奪回。
華爾在對慈谿的攻擊時陣亡，他的後繼者不被清朝皇帝所喜歡。當時的江蘇巡撫李鴻章，要求斯特維利另指派英國軍官來指揮洋槍隊。斯特維利選擇了戈登。1863年3月，戈登在松江接任了指揮，他仿照英軍建制，實行薪金制。4～7月，與淮軍聯合西進，陷太倉、崑山、吳江，並將總部遷至崑山，被清政府賞總兵銜。8月，常勝軍與淮軍攻蘇州，數月無功，傷亡慘重。戈登通過奸細了解到守城的太平軍將領納王郜永寬等“四王”、“四大天將”與主帥譚紹光一直不和。知道納王郜永寬有投降之意，便主張誘降納王，兵不血刃攻克蘇州。戈登的建議為李鴻章採納。經過一番秘密聯絡，郜永寬在蘇州城外親自與戈登、程學啟商議降約。
重要事件
李鴻章殺降事件
常勝軍紀念碑戈登聽到李鴻章殺降的訊息後提著洋槍要找李鴻章算帳。
由於找不到李鴻章，戈登忿忿然留下一份最後通牒，要求李鴻章下台。然後，他就率“常勝軍”返回崑山，同時給英國駐華公使布魯斯（Bruce ， Sir Frederick William Adolphus）寫信，要求英國政府干預，迫使李鴻章下台。英國駐華陸軍司令伯郎也從上海趕到崑山，與戈登商定“常勝軍”由其節制，不再受李鴻章及中國政府調遣，從中方奪回了“常勝軍”的控制權。上海的外國領事館官員代表列強及所有外國僑民也簽署了一項嚴厲譴責李鴻章的決議，警告說此事很可能使列強不會再幫助清政府，並可能撤回幫清軍打仗的洋兵洋將。李鴻章沒有想到，他的“殺降”居然會引起外國人如此強烈的反應，甚至有可能破壞難得的“中外和好”局面。慌了手腳的李鴻章於是一方面急忙向對中國政局影響頗深的英國人赫德（Robert Hart）和馬（MaCartney Sir Samuel Halliday）求援，請他們代為調解。“涉外”成功不等於“外交”成功。另一方面，李鴻章向朝廷辯解說因太平軍人多，自己不得不殺降，同時力陳淮軍已掌握西方槍炮技術，戰勝太平軍不再需要“常勝軍”。李鴻章的這兩手果然奏效。朝廷下旨不僅明確支持李鴻章並責備戈登“不明事理”，“意殊頗測”，“惟有據正理駁斥，以折其心”。與此同時，經過赫德等人的調解，英方制止了戈登的過激行為。戈登僅要求李鴻章發一文告，說明此事與己無關。對此要求李鴻章立即答應，雙方都有了“下台階”，一場大風波總算平息，但此事更堅定了李鴻章裁撤“常勝軍”的想法。
軍隊結局
洋槍隊1864年5月，陷常州後，清軍在蘇南的勝利已成定局，
戈登主動要求遣散“常勝軍”。早就想裁撤“常勝軍”的李鴻章立即高興地同意。1864年5月31日，常勝軍在崑山解散，全體軍官辭去了在清軍中的職務，其部分精銳部隊和大部分武器裝備被編入淮軍，進一步提高了淮軍的實力。從對“常勝軍”的利用、處置，可以看到李鴻章“請神”、“送神”的現實和老辣。
解散後，李鴻章劃銀1500兩在上海建立了常勝軍紀念碑。紀念碑原在外灘花園北門外，重建公園圍牆時劃入園內，它以正方形大理石為基座，基座上為三角錐形碑，碑上鐫刻漢文“得勝”二字，共鐫刻有48名陣亡的外籍常勝軍官兵姓名，因華爾列居首位，因而又被稱作“華爾紀念碑”。
