目前世界上發現最早的火炮是中國西北地區西夏國（1038─1227年）的一尊銅鑄火炮和一支1332年鑄造的元朝鐵銃。古代火炮大都是從炮口裝填彈藥，炮膛內沒有膛線的前裝式滑膛炮，火炮上沒有或是只有很簡陋的瞄準和返反後坐裝置，射擊時往往還需要人工點火，炮彈也只是石制或鐵制的實心彈、爆炸彈以及將石頭或金屬碎塊、鉛彈裝在鐵筒內製成的霰彈。17世紀以後，隨著科學的進步，槍械和藥技術的發展，古代火炮逐漸向近現代火炮演變。
前裝滑膛炮裝填彈藥很不方便，射擊速度慢，而且彈丸飛行不穩定，射擊精度低，射程近。1846年，義大利陸軍少校G·卡瓦利發明了世界上第一門後裝線膛炮，炮管內有兩條螺鏇膛線，使發射後的彈丸鏇轉，飛行穩定，提高了射擊精度，增大了火炮射程。該炮設計了新型的尾部炮閂，實現了炮彈的後膛裝填，發射速度明顯提高。卡瓦利還一改過去的球形彈丸形狀，發明了與後裝式線膛炮相匹配的具有圓柱型彈體、船尾形彈尾、錐形彈頭的炮彈，這也是世界上最早的與現代炮彈外形相似的卵形炮彈。卡瓦利的一系列發明和設計在火炮發展史上具有極其重要的意義，使火炮本射和炮彈具有了現代火炮的某些特徵，是古代火炮向現代火炮邁進的關鍵一步。
第一門具有現代反後坐裝置的火炮，是由德維爾將軍、德波漁產上校和里馬伊奧上尉3人組成的法國炮兵研製小組1897年發明的75毫米野戰炮。這門火炮所採用的長後坐原理本是德人豪森內研究發明的專利，但德國軍隊拒絕採用這一專利。法國於1894年從豪森內手裡購買了這項專利，並根據它研製了具有液壓氣動式駐退復進裝置的炮架，稱之為彈性炮架。炮身安裝在彈性炮架上，可大大緩衝發射時的後坐力，使火炮不致移位，使發射速度和精度得到提高，並使火炮的重量得以減輕。彈性炮架的採用緩和了增大火炮威力與提高機動性的矛盾，並使火炮的基本結構趨於完善。75毫米野戰炮已初步具備了現代火炮的基本結構，這是火炮發展過程中劃時代的突破。
在75毫米野戰炮的研製過程中，法國人成功地躲過了德國情報偵察和竊取活動，他們表面上進行彈簧式復進機構的多次試驗，將敵方引入歧途。結果，德國人花了九牛二虎之力仿製的法國野戰炮，卻是一種技術落後的假炮，使德國的炮兵裝備落後了許多年。
1914年9月，在第一次世界大戰的馬恩河戰役中，法軍炮兵用75毫米野戰炮猛轟德軍，使其傷亡慘重，為法國的勝利作出重大貢獻。法國買來德國人的先進發明專利，又對德國人進行保密和欺騙，還反過來打擊德國人。這對德國人來說，真是具有諷刺意味的慘痛的教訓。
19世紀末，各國炮兵相繼採用纏絲炮管、筒緊炮管、強度較高的炮鋼和無煙火藥，提高了火炮性能。採用猛炸藥的複合引信，增大彈丸重量，提高了榴彈的破片殺傷力。20世紀初，火炮還廣泛採用了瞄準鏡、測角器和引信裝定機等儀器裝置，由此進入了現代火炮的時代。
