早期歷史
潛艇最早可追溯到15-16世紀的列昂納多·達文西。據說，他曾構思“可以水下航行的船”，但被視為“邪惡的”。所以他沒有劃出設計圖。直到一戰前夕，潛艇仍被當成非紳士的武器，被俘艇員可被按海盜論處。
16世紀真實意義的潛艇出現。1576年，英國數學家威廉·伯恩（William Bourne）著書《發明與設計》描述潛艇。1620年，首艘有文字記載的“可以潛水的船隻”由英國人Cornelius Jacobszoon Drebbel建成。主要根據伯恩的設計，推動力由人力操作的櫓產生。但有人認為，那只是“縛在水面船下的一個鈴鐺狀物體”根本不能算潛艇。1620年至1624年，它有二種改良型在泰晤士河上進行實驗。
“可潛水船隻”能夠探索水下世界，但其軍事價值很快被發現。1648年，切斯特主教約翰·維爾金斯（John Wilkins）著書《數學魔法》指出潛艇在軍事上的優勢：
1.私密性：前往世界任何海岸附近，不被發現和控制。
2.安全性：海盜和劫匪無法搶劫水下船隻；無常潮汐和強烈風雨無法影晌海面下25-30英尺地方。冰和霜凍也無法危及潛艇乘員，即便在南北極海域。
3.有效抵抗敵人海軍，破壞和擊沉水面船隻。
4.支援水環繞和近水的地方；無聲無息運送補給品。
5.可作為有益的水下試驗場所。
史上第一嫂用於軍事的潛艇在美國獨立戰爭中出現。美國耶魯大學的大衛·布希奈爾建成海龜號，內部僅容納一人操作方向舵和螺旋槳。1776年海龜號企圖攻擊英國皇家海軍老鷹號，但失敗了。史上第一艘成功炸沉敵艦的潛艇在美國南北戰爭。何瑞斯·勞昇·漢利建成漢利號潛艇，乘員八人，手搖柄驅動。其外端伸出一個炸彈包，碰觸敵艦即爆炸。1864年2月17日晚上9時許，它成功炸沉北方聯邦的豪薩托尼克號護衛艦，但自己也因爆炸產生的漩渦而沉沒。
1863年，法國首先以儲放壓縮空氣的方式代替人力，建成第一艘非人力潛艇“潛水者”1879年，英國牧師雷文倫德·喬治加萊得建成”復活號“，長約15米，中間圓柱形，二端圓錐形，航行水面時用蒸氣推進，潛水用鍋爐中的剩餘蒸汽，是第一艘熱機驅動的潛艇。
19世紀80年代，潛艇日益進展，各國逐漸認識其重要性。美國，英國，法國，瑞典，義大利，德國和俄國等都熱衷於研發。1878年，美國人約翰·飛利浦·霍蘭參加此項工作。1900年四月，美國政府購買其研製的潛艇霍蘭號，並編入海軍。從此，潛艇正式成為一種海軍艦艇。1898年，法國人馬克西姆·勞伯夫首創以雙殼體結構建成了“一角鯨號”。儲存壓艙水在二層殼之間，優點是浮力大增。這後來成為蘇俄潛艇的一種類型。
第一次世界大戰
一戰期間，潛艇的活動範圍從近岸發展到遠洋。英國和德國的潛艇戰略不同，英國主要用來封鎖敵方港口，但受限於技術而未成功。德國則進行無限制潛艇戰，企圖破壞通商，壓制英國海運線再逼之談和。但英國不斷改善護航措施，以及美國驅逐艦大量加入護航，德國潛艇很難得手而受到很大損失。
一戰的四年間，德國U型潛艇共擊沉協約國船艦數百萬頓，戰績十分驚人。
第二次世界大戰
德國
一戰後的凡爾賽條約嚴格限制德國建置水面艦艇和潛艇。因此，德國與海外廠商合作，暗中發展，配合其一戰既有經驗，德國潛艇部隊在二戰期間仍發展到全球實力最強，規模最大。相對而言，德國水面戰艦在二戰開戰前幾年才加快準備。其質量雖高，但整體遠不如英國皇家海軍。
二戰結束前，德國共建成1150多艘潛艇。二戰中，德軍損失潛艇807艘，擊沉盟軍商船與戰鬥艦隻2882艘，共達1440頓。重創者有264艘。
日本
日本於1907年開始自主設計，計畫建造潛艇。一次世界大戰後，以戰勝國身份獲得七艘U型潛艇，從而吸收了德國的潛艇技術。大正時代日本潛艇發展迅速。第二次世界大戰開戰前，日本已擁有種類多，相當威力的潛艇。
美國
二戰期間，314艘潛艇服務於美國海軍，其中111艘於1941年前服役。203艘小鯊魚極（Gato class），Balao級和Tench級則是在戰爭期間投入服役的。戰爭中52艘，3505人陣亡。這是美國二戰期間陣亡率最高的部隊。同時，美國潛艇擊沉了1569艘敵艦，總共530萬頓。其中包括8艘航空母艦在內的200多艘的戰船。
英國
二戰中英國潛艇擊沉了2百萬頓級的敵國艦艇，其中包括57艘敵國軍艦。英國則損失了74艘潛艇。
現代潛艇
20世紀50年代開始，隨著核動力技術的發展，核動力的潛艇逐漸開始替代傳統的柴電動力潛艇，而氧氣也可以通過設備萃取海水中的氧氣成份補充。這二項革新技術，使潛艇的潛航能力從僅僅幾小時增加到數周乃至數月。同時，由於材料科學和焊接技術的進步，使以前不敢想的海下航行得以實現。
1958年，美國第一艘核動力潛艇鸚鵡螺號成為世界第一艘抵達北極點和北極冰蓋的潛艇。
1960年，美國核潛艇海神號完成了世界潛航。對於現代潛艇來說，動力原料和氧氣不再是限制條件，最大的限制條件變成了艦艇提供的食品和淡水限制以及封閉空間對艇員的心理影晌。
