沿革
護法時期
1917年，北洋政府總理段祺瑞解散國會，破壞《臨時約法》，激起了全國人民的不滿，孫中山號召開展護法運動。北洋政府的海軍總長程璧光及第一海軍艦隊司令林葆懌，回響孫中山號召，率領所部海軍，隨孫中山去廣州，參加護法運動。後程璧光被殺，孫中山離粵，海軍內部從此逐漸分化，一部分倒向桂系，一部分則願意支持孫中山的革命事業。
1921年4月6日，非常國會開會，選舉孫中山為大總統，孫中山準備重整革命大旗。但當時護法艦隊分為閩魯兩大派系，內部矛盾十分尖銳。孫中山以為，以往海軍依附桂系，勾通北洋軍閥，政治上極為不純，如今閩系官兵排斥異己，勢必影響艦隊的戰鬥力，從而把艦隊搞垮。
尤其嚴重的是北洋政府海軍也控制在閩系手中，因此掌握在閩系手中的護法艦隊時刻都有投靠北洋政府的危險。所以，護法艦隊必須嚴加整頓，驅除閩人，重新組織艦隊，以穩定廣東局勢。
1921年春，孫中山下決心整頓海軍，密令魯系軍官溫樹德為改革艦隊臨時總指揮，陳策為副指揮。這次事變後，“楚豫”、“永豐”、“永翔”等11艘軍艦全部被魯系控制。溫樹德因有功，被任命為海軍司令，兼海圻艦艦長。1922年6月，正值北伐之際，陳炯明在廣州突然叛變，並加緊了對海軍的收買工作。海軍又一次分化，有的被陳炯明所拉攏，有的擁護孫中山，還有的應付觀望。
身為艦隊司令的溫樹德，看見孫中山已失敗，軍餉都成為問題，可又不太願意與陳炯明公開妥協，所以態度曖昧，只是應付。當時除“海圻”、“海琛”、“肇和”三艦停泊於虎門外，其餘各艦仍分別泊於黃埔和省城白鵝潭。當時，陳炯明部隊已被閩、滇、粵、桂等軍閥驅逐至潮州一帶，溫樹德艦隊失去了所有依靠，糧餉、煤水都發生了困難。
加入直系
正當海軍進退兩難的時候，第一次直奉戰爭結束。不久，直系軍閥控制北京政府，曹錕賄選大總統成功。其部將吳佩孚為直魯豫巡閱使，聲勢盛於一時，坐鎮洛陽，揚言要武力統一全國。曹錕和吳佩孚得知駐粵海軍分裂情況，以為是大好時機，便以同鄉關係，收買溫樹德的艦隊，加強自己的軍事實力。1923年5至6月間，吳佩孚派海軍部軍需司長劉永謙和巡閱使咨議柳仲承為代表到香港，通過利泰洋行經理柳仲承之弟柳平野，秘密到廣州請溫樹德去香港。劉、柳二人勸說溫樹德率駐粵海軍脫離廣州，加入直系，一切費用均由直系負擔。
此時艦隊處境艱難，糧餉、煤水都沒保障，艦船長時間得不到維修，有些已鏽蝕不堪。如在粵長拖下去，就有被困死的危險。當時雖不得不暫時與陳炯明合作，也並非全軍本意。再者，艦隊官兵大多為北方人，思鄉心切，也希望北歸。
經短時間協商和籌備，在基地、軍餉、修船等項都有保障的情況下，溫樹德於11月初，率各艦離開汕頭。“豫章”艦因修理機器，單獨行駛，後為南巡的“應瑞”練習船發現，艦長陳紹寬令其歸隊，艦上官兵上岸逃走，“豫章”艦被“應瑞”拖走。其餘的“海圻”、“海琛”、“肇和”、“永翔”、“楚豫”、“同安”等共6艘軍艦，於12月初陸續開抵青島。根據此前達成的協定，他們設司令部於萊陽路，並以青島為基地，稱為渤海艦隊，溫樹德為渤海艦隊司令，其職權與其他艦隊司令相同，從此南下護法海軍已完全轉化為直系控制下的“渤海艦隊”。
1924年2月，在吳佩孚邀請下，溫樹德在劉永謙、柳仲承陪同下率一部分艦隊人員來到洛陽，商談海軍事宜，受到吳佩孚的歡迎和重視。當即規定海軍軍餉由青島地方負責一部分外，大部分由膠濟路每月撥款5萬元，各艦均由天津大沽造船所承修，經費由交通部撥付。渤海艦隊不隸屬於北京海軍部。溫樹德回青島後，曾去北京見海軍總長李鼎新。李除慰勉外，一切都推給吳佩孚，表示不干預這支艦隊。這樣，吳佩孚就直接控制了這支海軍，在其指揮下，它曾參加過直奉戰爭。
1924年9月，第二次直奉戰爭後，直系戰敗。11月24日，張作霖入關進入北京，當天即成立以段祺瑞為“臨時總執政”的中華民國臨時執政府。經過這次戰爭，奉系軍閥張作霖認識到了海軍的重要性，很是羨慕渤海艦隊強大的戰鬥力，於是打算收編直系軍閥吳佩孚的渤海艦隊，以增強自己的軍事實力。
張宗昌控制
1925年4月24日，段政府任命奉系將領張宗昌督辦山東軍務，調任鄭士琦為皖督。5月7日，張宗昌接任魯督，所部奉軍也源源開進山東。此時的渤海艦隊駐泊青島，而頂頭上司吳佩孚兵敗後退居武漢，渤海艦隊一時間成了無根之木。吳佩孚兵敗後浮海南下經過煙臺時，溫樹德等曾向其請示海軍在青島如何應付局勢，吳說：“我去後，你們在青島就取割據形式，以後如何再說。”渤海艦隊司令溫樹德在吳佩孚大勢去後，無所依附，只好聽其自然。
1925年5月中旬，張作霖命張宗昌與溫樹德接洽收編渤海艦隊事宜。當時，渤海艦隊向背的關鍵無非是權勢和經費，奉系軍閥的權勢正盛極一時，經費問題，張作霖也表示不成問題。張宗昌在與溫樹德接洽收編問題的同時，又著手削弱渤海艦隊在地方的勢力。渤海艦隊駐青島多年，勢力已逐步擴展到市政方面，高級軍官莫不各兼一職，如溫樹德兼任膠澳商埠督辦，各艦長兼各局、所長，這是張宗昌主魯後所不能容忍的。7月15日，張宗昌免去溫樹德的膠澳商埠督辦職務，使其專任渤海艦隊司令。隨即，將膠澳商埠局收歸省轄，並進行改組，將渤海艦隊軍官所兼各局所長全部撤換。
由於張宗昌在收編渤海艦隊的問題上已表露出據為已有的傾向，因此張作霖又派沈鴻烈和張學良直接插手這件事。沈鴻烈派艦長尹祖蔭和馮濤到青島，與他們在煙臺海校的同班同學、時任渤海艦隊肇和艦參謀長的趙梯昆和楚豫艦艦長鬍文溶聯繫，請他們協助將艦隊拉到東北。但是，他們既未經溫樹德的許可，也沒得到艦隊中掌握實權的軍士長級士兵的同意，根本無法調動艦隊，另外趙、胡本人對同東北海軍合併也頗多顧慮，結果尹祖蔭、馮濤的活動沒有成功。這之後，張學良又到天津親自與溫樹德接洽，溫樹德表示只要東北能提供經費並發清欠餉，艦隊便可接受指揮。張學良首先要溫樹德將渤海艦隊調到秦皇島，待其檢閱後再作決定。溫樹德率渤海艦隊開赴秦皇島，計有巡洋艦3艘，炮艦4艘，驅逐艦3艘，運輸艦1艘。此外，尚有“海琛”、“肇和”、“同安”3艦，因故障和正在修理而留在青島。19日，張學良、沈鴻烈在秦皇島檢閱了渤海艦隊，感到非常滿意。隨後，張學良同溫樹德前往青島，檢閱留青島的各艦。沈鴻烈則自秦皇島返瀋陽，向張作霖匯報檢閱情況，並向張建議將渤海艦隊與東北江、海防艦隊合併改編為東北海軍。沈鴻烈的改編方案，與張作霖的想法不謀而合，於是張電召溫樹德來瀋陽召開海軍會議。但是，渤海艦隊的多數軍官都不主張溫樹德親去，以防他變。溫樹德本人對張作霖也存有戒心，所以，他一方面將秦皇島的艦隊調回青島，一方面派代表赴沈，他本人則稱病躲在天津。渤海艦隊代表經與奉天當局多次協商談判，直到9月底，雙方才初步達成協定。
渤海艦隊的改編即將成功之時，卻發生了青島海軍的鬧餉風潮。張宗昌主魯後，儘管仍隸屬於奉系，但已有了自己的實力和地盤，成了一個依附於奉系的山東軍閥。他也想將渤海艦隊控制在自己的手下，但又因張作霖要收編這支艦隊，所以他不敢公然與之搶奪。張宗昌以為，既然自己得不到這支艦隊，經費當然也不能由山東負擔。因此，當時除調赴秦皇島各艦撥發部分軍餉外，留駐青島的各艦已欠餉達數月之久。本來渤海艦隊的中下級軍官對與東北海軍合併就十分不滿，當改編協定馬上就告成時，便歸責於溫樹德。於是，“肇和”、“同安”二艦藉口欠餉問題，於10月15日宣布獨立。張宗昌聞訊後，立即抓住了這個收編渤海艦隊的好機會，派所部旅長畢庶澄率兵前往解決。畢一面以武力彈壓，一面答應發清欠餉撫慰，幾天后，鬧餉風潮平息。20日，張宗昌以溫樹德久病天津，已無駕馭之力，各艦共舉畢庶澄為公開理由，將溫樹德免職，委任畢庶澄兼任渤海艦隊司令，海圻艦艦長吳志馨為副司令。這樣，張宗昌就把渤海艦隊抓到了自己手中。
加入奉系
張宗昌接管渤海艦隊後，國內接連發生了奉浙戰爭、郭松齡反奉、奉馮戰爭等一系列戰爭。畢庶澄的陸軍本職也由旅長升為師長，再升至軍長。當時奉系軍閥因忙於應付戰爭，已經無暇顧及統一海軍，況且東北海軍與渤海艦隊都參加了作戰，這時再談合併，必然會在張作霖與張宗昌之間挑起爭端。但張作霖、沈鴻烈並未放棄將渤海艦隊併入東北海軍的願望。1926年秋，渤海艦隊的海圻艦赴旅順的日本船塢修理，沈鴻烈見有機可乘，便親自率人到旅順拉攏收買海圻艦士兵。艦上大多數士兵被沈鴻烈收買後，公開表示不願再回青島，甚至以鬧餉要挾。艦長袁方喬見形勢緊張，且已不能行使職權，遂離艦逃走。副艦長張衍學被士兵攔阻，沒有脫身。沈鴻烈表示如果海圻改隸東北，不但按月發餉，而且一次發清以前的欠餉，以利弊說服了張。11月初，沈鴻烈搶奪海圻艦成功，將其編入東北海防艦隊。
1926年12月1日，張作霖在天津就任安國軍總司令。22日，張作霖決定任命靳雲鵬為內閣總理，海軍總長由張宗昌推薦的畢庶澄擔任。不料，吳佩孚發來電報，主張仍然維持顧維鈞內閣，張反覆權衡後同意。1927年1月12日，顧內閣改組成立，海軍總長仍為杜錫圭擔任。那時，直系吳佩孚、孫傳芳兩大軍閥已被廣東國民革命軍的北伐打敗，孫傳芳率殘部退守上海和浙江。2月中旬，北伐軍攻入浙江。張宗昌為奪取地盤，命直魯軍入江浙“援孫”。2月24日，魯軍第八軍軍長兼渤海艦隊司令畢庶澄率部開往上海接替防務。畢在上海吃喝玩樂，不理軍事。蔣介石委任其為第四十一軍軍長，他也不拒絕。3月21日，上海工人發動第三次武裝起義，直魯軍退出上海。24日，畢逃回青島。張宗昌的部將褚玉璞等揭發畢接受了北伐軍的任命，4月5日張宗昌將畢槍決。7日，改任祝祥本為膠東防守司令兼第八軍軍長，升任吳志馨為渤海艦隊司令。
6月18日，張作霖在北京正式組織安國軍政府，並就任“中華民國陸海軍大元帥”，宣稱代表“中華民國”行使統治權。奉系軍閥成了北洋政府的統治者，奉系海軍也順理成章地成為“國家海軍”。7月19日，張作霖任命張宗昌為海軍總司令，將東北海防艦隊改為第一艦隊，沈鴻烈任艦隊司令，將渤海艦隊改為第二艦隊，吳志馨任艦隊司令。兩部海軍雖在名義上合二為一了，但實際上仍各自為政。兩部海軍“統一”後，沈鴻烈仍在找尋機會奪取渤海艦隊的領導權。他通過種種手段試圖取得張宗昌的信任和賞識，並且還百般拉攏張的心腹親信——膠東防守司令祝祥本，為其控制渤海艦隊創造必要的條件。1928年4月北伐期間，吳志馨暗派代表與國民革命軍總司令蔣介石聯繫，結果被控下獄，後被處決。而第二艦隊的司令一職則由第一艦隊副司令凌霄代理。這次事件後，沈鴻烈升任海軍副總司令並基本上接管了第二艦隊。但第二艦隊對於換主帥並不順從，接著掀起一場風潮。“海琛”、“肇和”、“永翔”等艦艇先後起錨出港，並向當局提出三項要求，即釋放前任司令吳志馨及趙、胡二艦長；發清6個月欠餉；另舉司令，不受沈鴻烈節制，限5天答覆，若不接受，即當武力解決。實際上，原渤海艦隊的士兵是在抵制被合併到東北海軍。
在這種情況下，沈鴻烈聯合青島防守司令祝祥本向濟南張宗昌請示辦法，張宗昌親自到青島平息了這場風潮。此後，張宗昌將海軍全權託付給沈鴻烈，並令其整頓第二艦隊。沈鴻烈將各艦舊艦長全部換掉，並整頓了鬧風潮的士兵。整頓結束後，沈鴻烈在青島正式設立了東北海軍總司令公署，轄"海圻"等26艘艦艇，總排水量近2萬噸。
這樣，沈鴻烈就完全控制了渤海艦隊，也可以說渤海艦隊成為奉系控制下的東北海軍的一部分。
