球員生涯
青年時期
舍恩於5歲或6歲時起便開始在德勒斯登的街頭踢足球。他描述在這段“石板路及瀝青路的足球階段”很好的鍛鍊了他出眾的球感和快速反應能力。作為藝術品商人安東·舍恩（Anton Schön）的第三個孩子，舍恩有一位年長12歲的姐姐和一位年長8歲的哥哥，但其父親卻對足球缺乏熱情。
十年後，舍恩於1925年加入了德勒斯登西亞（Dresdensia Dresden）的青年隊。作為一名15歲的年輕球員，他於包岑舉行的一場友誼賽中首次代表一線隊登場亮相，其當時的偶像是隊內球員馬蒂亞斯·辛德拉爾。隨後，舍恩轉投了規模更大的德勒斯登足球俱樂部，其偶像也變為國家隊前鋒理察·霍夫曼。舍恩的成長得益於正進行“歐陸足球援助”的英格蘭人吉米·霍根，後者自1928年起擔任德勒斯登主教練。他為球隊帶來並傳授了“令人驚訝”的傳切配合技術，比賽風格儘管粗糙但乾淨，這也對舍恩日後的執教理念造成了深遠的影響。1932年秋天，17歲的舍恩首次代表球隊在對陣卡爾斯巴德（Karlsbad）的一場友誼賽中與理察·霍夫曼同場競技。
舍恩於1933年夏天首次代表球隊在聯賽中亮相。然而一次膝關節半月板受傷卻令他遠離賽場直至1936年。期間除了足球，他還在主教制的聖貝諾文科中學（St.-Benno-Gymnasium）完成學業，並在1935年的復活節期間參加了高考，當中其自然科學的分數遠優於語言學。1935年4月1日起，舍恩開始作為一名銀行職員在薩克森州立銀行（Sächsischen Staatsbank）實習。實習結束後，他又供職於鄰近德勒斯登的製藥企業馬博士大藥廠，該公司同時也是德勒斯登足球俱樂部的贊助商。
德國國家足球隊
在半月板損傷治癒後，舍恩被時任德國國家足球隊主教練的塞普·赫爾貝格召入了1937年11月21日在漢堡對陣瑞典的世界盃預選賽大名單，後者是在1936年接替奧托·內爾茨出任這一職位，並在上任初期的連續11場比賽中保持不敗，其中在1937年5月16日以8比0大勝丹麥的第11場比賽中更造就了德國足球史上的著名團隊“布雷斯勞十一人”。舍恩在漢堡的比賽中作為前鋒首發出場並射入2球，幫助球隊以5比0大勝對手。憑藉出色的判斷力、頭球能力、射門能力和戰術素養，他似乎在國家隊中有著光明的前景，並應當成為國家隊出戰1938年世界盃的一員。然而1937年11月28日，舍恩在代表德勒斯登參加的一場聯賽中造成第二次半月板損傷，並在1938年1月24日進行了手術，從而無緣1938年世界盃。他的國家隊生涯直至世界盃結束後、於1938年9月對陣波蘭的一場友誼賽中才得以重新登場亮相。舍恩在這一時期曾想要學醫，尋求轉向一條完全不同的職業道路。但經過再三考慮後，他最終決定不做任何改變，因為他認為自己“已經等待了很長時間，並已經走在正確的道路上了”。
在1939-40賽季的德國足球冠軍賽中，舍恩隨德勒斯登一路奏凱，卻在1940年7月21日對陣沙爾克04的決賽中以0比1失利。但他們仍在同年12月1日的查默杯決賽中通過加時賽以2比1戰勝紐倫堡而捧杯。1941年11月2日，德勒斯登又在查默杯決賽中以2比1幸運戰勝沙爾克04，成功衛冕這項錦標；而在此前於1941年9月7日的帝國州際杯（Reichsbundpokal）決賽中，舍恩也作為薩克森代表隊的一員隨隊以2比0戰勝巴伐利亞代表隊奪冠。
舍恩的國家隊生涯在1941年10月5日德國隊於斯德哥爾摩以2比4負於瑞典的比賽後戛然而止。赫爾貝格認為舍恩是隊中的一大弱點。這位國家隊主帥在失利後的日記中寫道：“前鋒實在太軟弱了！完全沒有戰鬥欲望！但對陣瑞典只能通過力量和鬥志、速度和韌性方可取勝！今後這支球隊將不會再有舍恩的位置！”。於是在此後的國家隊比賽中，舍恩再也沒有受到徵召，即便是在其家鄉德勒斯登對陣丹麥的比賽，情況也是如此。舍恩本人表示對於被國家隊除名毫無怨言，但他周邊的人們，尤其是他的妻子在事隔多年後仍對他所遭受的“不公平待遇”而感到憤慨。尤爾根·萊內曼（Jürgen Leinemann）在他為赫爾貝格所作的傳記中寫到，“至少這場比賽為赫爾貝格和舍恩在此後幾十年的敵對和紛爭中造成了不利影響並奠定了基石。這源於學院派的舍恩受到了來自自學成才派的赫爾貝格的挑釁。他感受到了挑戰，並積極應對”。
在1943和1944年，舍恩隨德勒斯登收穫了兩個德國足球冠軍。由於在1939年第二次世界大戰開始後，隊中球員必需以出色的表現以避免充軍，這使得舍恩在1943年於柏林對陣漢堡一支軍人球隊的冠軍賽決賽中發揮出了幾乎最高水準。在柏林奧林匹克體育場的70,000名觀眾面前（其中大部分為軍人），他取得2個進球。這一表現也招致了謾罵，在他每次觸球時，看台上都會發出“赫爾穆特·舍恩——參軍”的呼聲。在此大背景下，舍恩還是在納粹德國發動“全面戰爭”的幾星期前面臨被傳送前線的危險。其最初給出的正式拒絕理由是“膝蓋受傷”，但定期參加的訓練證明了他並非完全有生理缺陷。後來，他又以製藥企業馬博士大藥廠的雇員身份而獲得另一項參軍豁免，因為該公司被定性為戰備企業。相比起德勒斯登的著名球員，納粹政府和德意志國防軍更傾向於招攬沙爾克04的球員。特別是德勒斯登足球俱樂部的成員、時任德意志國防軍中將和德勒斯登軍區總司令的卡爾·梅赫內特（Karl Mehnert）宣布，他將盡力確保德勒斯登球員在戰爭開始後不被發往前線。恰逢納粹正試圖在飽受戰爭創傷的國家中保持正常秩序和轉移民眾注意，而足球正好是可以吸引大量觀眾的運動，同時利用優秀的球隊及球員也能達到宣傳其戰爭成果的目的。儘管如此，德勒斯登足球俱樂部還是在1942年公開抱怨，他們的陣中只有4名常備球員（當中包括舍恩）。
舍恩聲稱自己一直拒絕加入納粹黨。他曾多次發表“儘管毫無意義的戰爭對生活的影響越來越大，……但我們運動員仍然擁有一段美妙的足球時光”的聲明，而被後來許多足球運動員和足球從業者一致批評為不負責任態度。其中，尼爾斯·哈弗曼（Nils Havemann）在其所著的《納粹十字下的足球》（Fußball unterm Hakenkreuz）一書中表示，“被動員的民眾對於受到關注感到受寵若驚，他們被民族情緒和所享受到的特權所迷惑，……因此……他們關心下一場比賽的陣型更甚於德國當下發生的政治事件”。由菲舍爾和林德納（Fischer/Lindner）合著的書籍《希特勒風暴》（Stürmer für Hitler）中也表示，“實際上舍恩在戰爭時期（於國家隊中）所受的待遇相當不錯”。書中還指出“赫爾穆特·舍恩展現的是一個特例……被黨衛隊徵召本是那一時期（德國人）不可避免的命運，但這一命運卻被舍恩非常敏銳的逃脫了”。
戰後重建時期
舍恩在1942年1月15日與同樣來自德勒斯登的妻子安內麗絲（Annelies）完婚，並誕下一子斯特凡（Stephan，1944年出生，後為田徑運動員及物理學家）。在1945年2月13日至15日發生的德勒斯登轟炸中，他們一家得以倖免遇難。二戰結束後，舍恩主要在德勒斯登工作，為了維持妻兒的生計，他也從事任何類型的以貨換貨交易。他還利用一輛以轎車改裝的小貨車定期穿梭於漢堡，並在那一混亂的時期為聖保利效力，返程時則從漢堡帶回一些朋友暗中贈予的物資。在德勒斯登開始恢復足球比賽後，舍恩立即重返賽場。但是由於德勒斯登足球俱樂部被蘇聯占領區當局定性為“資產階級俱樂部和封建派系的象徵”而遭取締，他於1946-47賽季只能代表繼承的球隊德勒斯登腓特烈城足球俱樂部參賽。當他隨腓特烈城在1947-48賽季東區冠軍賽（Ostzonenmeisterschaft）預選賽中負於梅拉內（SG Meerane）後，舍恩迫於政治壓力否認了他曾代表聖保利參加過的3場北區高級聯賽比賽。1949年，腓特烈城擊敗梅拉內和萊比錫工業奪得薩克森冠軍，然而在晉級東區冠軍賽後，腓特烈城卻在四分之一決賽以1比2不敵哈勒聯盟。在1949-50賽季的首屆東德足球超級聯賽中，舍恩又以球員兼教練的身份率領腓特烈城奪得亞軍。1949年冬天，舍恩曾前往科隆參加由塞普·赫爾貝格主辦的教練員培訓課程並順利結業，於1950年2月返回德勒斯登。1949-50賽季結束後，腓特烈城正式解散，其原有架構被正式併入次級聯賽球隊德勒斯登菸草（VVB Tabak Dresden），舍恩遂以球員兼教練身份加盟柏林赫塔。在腓特烈城效力期間，舍恩還於1948年至1950年期間入選了薩克森足球代表隊，從1949年5月至1950年4月，他都是這支東德國家足球隊前身的首發球員，並在這裡獲得了首次執教經驗。
在參加柏林城市聯賽（Berliner Stadtliga）的首個賽季中，冠、亞軍分別由柏林網球和柏林聯盟摘得，舍恩及部分前德勒斯登隊友加盟的柏林赫塔則位列第三。1950年除夕後，舍恩宣布終止他在柏林赫塔的一切活動，從而正式結束球員生涯。在戰爭結束後，他曾分別參加過北區高級聯賽、東德超級聯賽和柏林城市聯賽，總共出場15次，並射入12球
教練生涯
威斯巴登、薩爾及西德隊助教
舍恩在1951-52賽季成為威斯巴登體育俱樂部的主教練，並率領這支黑森球隊在二級聯賽南區（II. Division Süd）中以第九名完賽。他本與家人在威斯巴登找尋了一處住所，但又在1952年接受薩爾足球協會的邀請，開始擔任當時的薩爾足球代表隊主教練。在此職位上，舍恩可以造訪各俱樂部、關注頂級球員的表現並將其納入國家隊陣容。他坦言這項工作比作為一名俱樂部主教練要好的多。舍恩不需要額外安排國家隊的集訓，因為他在擔任薩克森足球代表隊教練期間便已學會了如何考察球員。他在這裡拓展了自己的視野，通過必須出席的各項活動也使他結識了很多不同的人。他對球隊陣容進行了構建、分拆、調整和更換，這段經歷成為舍恩作為一名主教練的成功範例，並為他就任西德國家隊主教練打下了堅實的基礎。1953年6月24日，舍恩執教的薩爾隊在1954年世界盃預選賽第1小組的首場比賽便爆冷以3比2客場戰勝挪威；而在此後面對塞普·赫爾貝格領銜的西德隊時，薩爾也僅分別在客場及主場以0比3和1比3小負。薩爾足球代表隊向世人表明，他們作為一支魚腩部隊也可以取得令人矚目的成績。
在薩爾足球協會重新作為一個州立組織被納入德國足球協會後，舍恩也於1956年5月26日調任西德國家足球隊的助理教練，成為赫爾貝格的副手，起薪為1100德國馬克。他同時還負責率領西德二隊、西德業餘隊和西德青年隊參加歐洲足聯所舉辦的各項賽事。此外，他也曾擔任過教練員培訓講師，並始終負責西德一線隊的比賽統籌工作。赫爾貝格對舍恩的助教作用感到滿意。球隊接納了他作為第二號人物，他也試圖營造一個良好的工作氛圍，這是赫爾貝格處理國家隊事務最重要的先決條件。舍恩在1958年瑞典世界盃和1962年智利世界盃中跟隨赫爾貝格積累了寶貴的執教經驗。經過8年的助理教練生涯，舍恩終於在1964年夏天正式從赫爾貝格手中接過西德隊主教練的教鞭。
西德隊主教練
開端
1964年6月7日，在赫爾辛基對陣芬蘭的比賽是舍恩最後一次作為西德隊的助理教練輔佐赫爾貝格。在赫爾貝格執教時代的最後階段，德國足球聯賽系統的最高級別在1963-64賽季由新成立的德國足球甲級聯賽取代了已不再具備國際競爭力的德國足球地區聯賽。而新任國家隊主教練則需要肩負立即率隊衝擊1966年英格蘭世界盃決賽圈的艱巨任務。瑞典及賽普勒斯是他們的預選賽對手，其中首場比賽是在沒有進行熱身賽的情況下於1964年11月4日主場對陣瑞典。通過在9月於奧格斯堡與南部聯隊和10月在杜塞道夫與謝菲爾德星期三進行的兩場教學暨選拔賽後，舍恩和他的助教德特馬·克拉默便確定了這支國家隊的名單和陣式。在其就任國家隊主教練後與瑞典進行的第一場正式比賽以1比1平局結束，西德隊在世界盃預選賽上的壓力驟增。由於靦腆和敏感的性格，舍恩在面對即便最輕微的質疑時都需要經過慎重考慮後才回應，因而被媒體形容為“作風拖拉”。但迫於公眾壓力，他還是作出了順應趨勢的人員調整。在1965年12月26日客場對陣瑞典的最後一場世界盃預選賽中，舍恩大膽啟用了年僅20歲的慕尼黑人弗朗茨·貝肯鮑爾完成國家隊首秀，並任命烏維·席勒為隊長，儘管後者僅在跟腱手術休戰6月後才剛剛傷愈復出。最終憑藉維爾納·克列默和烏維·席勒的進球，舍恩的團隊以2比1贏得比賽，順利晉級1966年世界盃決賽圈。在1966年7月11日至30日舉行的決賽圈賽事中，西德隊不僅進入了決賽，他們還表現出了華麗的比賽風格，並擁有貝肯鮑爾、赫爾穆特·哈勒和沃爾夫岡·奧弗拉特這些極富感染力且技術優良的進攻球員。最終的決賽令人印象深刻，這不僅是因為新晉世界冠軍英格蘭憑藉一記著名的爭議進球將比分改寫為3比2；上屆世界盃時仍以防守為主的西德隊在新教練的帶領下在比賽中也留下了進攻的烙印。
然而舍恩隨即於1968年歐洲足球錦標賽預選賽上遭到挫折。在1967年4月6日開局主場以6比0戰勝阿爾巴尼亞的一個月後，西德隊又於5月3日客場以0比1不敵南斯拉夫，批評者們立刻如期而至，他們認為球隊應該更注重防守。同年10月7日，西德隊完成復仇，在主場以3比1戰勝南斯拉夫。於是他們在12月17日在客場對陣阿爾巴尼亞的比賽中只需戰勝對手便可晉級。然而，西德隊卻令人意外的以0比0完賽，無緣歐錦賽決賽圈。舍恩在隨後遭到了廣泛的批評。帶著這段慘痛的經歷，西德隊又參加了1970年世界盃預選賽。在面對分組賽對手奧地利、蘇格蘭和賽普勒斯的兩回合主客場制比賽中，舍恩率隊以5勝1平的不敗戰績晉級世界盃決賽圈。其中的最後一場比賽是1969年10月22日於漢堡以3比2戰勝蘇格蘭：在現場72,000名觀眾面前，萊因哈德·利布達於第79分鐘通過個人表演射入制勝球，是舍恩團隊順利晉級的決定性因素。
1970年世界盃至1976年歐錦賽
伴隨著雜耍般的理念，舍恩的團隊終於在1970年墨西哥世界盃賽上的表現完全擺脫了其前任塞普·赫爾貝格的影子。即便是在分組賽對陣保加利亞和秘魯的比賽中也展示出了高超的比賽藝術。貝肯鮑爾、奧弗拉特和席勒串聯成中路的核心，已經成長為國際級前鋒的蓋德·穆勒則在翼位不斷的與萊因哈德·利布達、尤爾根·格拉博夫斯基、漢內斯·洛爾和西格弗里德·赫爾德交叉換位迷惑對手，為觀眾奉獻出極富吸引力的比賽。在扣人心弦的四分之一決賽中，西德隊於0比2落後的情況下以3比2逆轉取勝英格蘭後，法國體育雜誌《隊報》發表了這樣的評價：
在隨後的半決賽中，堅持進攻打法的西德隊戲劇性的以3比4不敵義大利，在這場此後常被形容為“世紀之戰”的比賽中，舍恩和他的團隊得到了世界範圍內的同情。舍恩為國家隊注入的卓有成效和漂亮的進攻哲學，符合他對足球的理解。在中鋒的使用問題上（蓋德·穆勒或是烏維·席勒？），迫於公眾輿論的壓力使得舍恩在很長一段時間內都猶豫不決且反覆無常。他最終的解決方案是將席勒置於穆勒身後作為第二前鋒，這是可以使兩人同時留在場上，且不傷害任何人的唯一方法，同時也為舍恩贏得了聲譽。兩人在這次世界盃中共射入13球，證明了主教練的安排並不僅是妥協措施。
接下來的陣容測試周期是1972年歐洲足球錦標賽的預選賽。在從對陣波蘭、阿爾巴尼亞和土耳其的第8小組中成功突圍後，西德隊於1972年4月29日再度來到溫布利球場，在四分之一決賽首回合中面對具有心理優勢的英格蘭。然而這次西德隊憑藉優異的表現以3比1客場取勝。原本謹小慎微、作風拖拉的舍恩在比賽中排出了極具風險的陣容：後場只留下霍斯特-迪特·霍特格斯和格奧爾格·施瓦岑貝克兩人作為純粹的防守球員，貝肯鮑爾和保羅·布萊特納始終果斷前插助攻；中場由赫伯特·威默主職防守，君特·內策爾和烏利·赫內斯分居左右兩邊；而格拉博夫斯基、蓋德·穆勒和西格弗里德·赫爾德三名前鋒則完全參與進攻。這一極具華麗風格的團隊在進攻和防守兩端的結構清晰，並且能夠以正確的比例成功套用，3比1的比分驗證了這一點。舍恩的印記清晰可見。球隊在他的領導下依靠“負責任的球員”自由發揮，這在一個專制的主教練治下是不可想像的。在半決賽以2比1戰勝比利時後，西德隊又在決賽中以3比0完勝蘇聯，完全沒有給對手留下任何機會。一些國際主流媒體也對此給予了祝賀和最高級別的讚譽，其中義大利《晚郵報》形容舍恩的球隊“開創了足球史上的一個新時代”；蘇聯隊主教練亞歷山大·波諾馬列夫在賽後也坦言，“我們必須向西德隊學習，他們的比賽技巧是在任何一本教科書中都無法找到的”；法國《隊報》則讚賞君特·內策爾為“我們歐洲大陸上最優秀的球員”。
舍恩在1974年西德世界盃到來之前改變了這支球隊的面貌。君特·內策爾於1973年轉會至西甲球隊皇家馬德里，並因傷缺席了國家隊在馬倫特進行的備戰集訓。赫伯特·威默淪為替補球員，而邊鋒埃爾文·克雷默斯和老將西格弗里德·赫爾德則不再入選國家隊。在決賽圈第一階段小組賽對陣東德的比賽中，西德隊僅有格拉博夫斯基和蓋德·穆勒兩名前鋒可用。東德以1比0贏得比賽後，西德隊陣營開始存在危機感。早在馬倫特備戰期間，國家隊便因球員獎金問題發生內訌，舍恩指責一些曾經的核心球員未盡全力。隊長貝肯鮑爾也對主教練表示支持，他指責說：“3至4名球員在訓練不盡全力，因為他們都認為自己在正式比賽中是不可或缺的”。舍恩在第二階段小組賽首場對陣南斯拉夫的比賽開始前一小時才公布了他的參賽名單。令人驚訝的是，烏利·赫內斯、尤爾根·格拉博夫斯基、海因茨·弗羅赫和貝恩德·庫爾曼等4名參加過0比1不敵東德的比賽的球員均缺席了這場比賽。在當晚的新聞發布會中，媒體傳出了危機風暴，當隊長坐在主教練身旁並強調自己的發言時，報刊紛紛以“貝肯鮑爾晉升為助理教練。赫爾穆特·舍恩現在著手讓權”作為頭條標題。參加了此次世界盃的貝恩德·霍爾岑拜因則在《11朋友》於2009年10月出版的特刊《70年代》（Die Siebziger）中對當時的情況作出了澄清說明：
在世界盃上輸給東德後，我的機會來了。作為一名德勒斯登人，舍恩覺得這場比賽是一種侮辱。他對球隊感到憤慨，第二天對著我們都一言不發。他以這種方式讓我們感受他深切的失望，而不是舉行一個座談或明確的處罰，整個氣氛都非常壓抑。這是他的風格。赫爾穆特·舍恩並不會通過大聲說話來激勵，他認為這好比是一個親生父親的失望，整個球隊都對此感到羞愧。於是弗朗茨·貝肯鮑爾發表了一份正式聲明。他代表舍恩決定讓我在第二階段小組賽中替換烏利·赫內斯出戰南斯拉夫，同時被調至首發陣容的還包括萊納·邦霍夫、迪特·赫爾佐格和赫伯特·威默。這在後來多次被媒體形容為貝肯鮑爾剝奪了舍恩的職權。完全是無稽之談。是舍恩組建了球隊，但與其他主教練不同，他會權衡各方的觀點，也容許別人提出意見。
西德隊在第二階段小組賽中分別戰勝了南斯拉夫、瑞典和波蘭，從而得以晉級決賽對陣荷蘭。此時的球隊陣容中，萊納·邦霍夫、奧弗拉特和赫內斯坐鎮中場，前鋒則由格拉博夫斯基、蓋德·穆勒和霍爾岑拜因領銜。在戰術層面上，舍恩安排了速度較快的貝爾蒂·福格茨對荷蘭頭號球星約翰·克魯伊夫實施貼身緊逼防守，施瓦岑貝克更多的任務是盯防羅布·倫森布林克，邦霍夫則依靠其充沛的體能不斷對對方中場核心威廉·范哈內亨進行干擾。上半場結束後，西德隊以2比1取得領先，比賽中也取得不少令人信服的攻勢。下半場比賽則成為了德國人的防守大戰，在荷蘭隊狂風驟雨般的攻勢面前，他們奮力將比分維持到終場。赫爾穆特·舍恩率領他的團隊在奪得1972年歐錦賽冠軍後又實現了在1974年世界盃奪冠。而早在1966年世界盃他們便已是亞軍，並在1970年世界盃獲得季軍。只是1974年的獲勝方式已經無法與此前幾次大賽時華麗的表演風格相媲美。
在奪得世界盃冠軍後，格拉博夫斯基、蓋德·穆勒和沃爾夫岡·奧弗拉特均結束了各自的國家隊生涯，年輕的保羅·布萊特納也遠走西班牙加盟皇家馬德里。他們所留下的空隙，尤其是蓋德·穆勒離開所帶來的損失最為沉重。但作為國家隊主教練的舍恩已無法再浪費時間，因為1976年歐洲足球錦標賽預選賽在1974年11月便已開始。在四分之一決賽中，西德隊與西班牙相遇，他們先是在1976年4月24日於馬德里進行的首回合較量中以1比1戰平對手，次回合回到慕尼黑主場後又以2比0取得勝利。因此，衛冕冠軍得以晉級在1976年6月於南斯拉夫所舉辦的半決賽。經過加時賽以4比2擊敗東道主後，西德隊又進軍在6月17日于貝爾格萊德舉行的決賽，其中在第79分鐘由科隆前鋒迪特·穆勒替補赫伯特·威默的換人尤為關鍵，前者在他參加的首場國際比賽中便包辦了球隊的最後3個進球。最終的決賽西德隊與捷克斯洛伐克在常規時間內戰成2比2平，並由後者通過點球大戰以5比3勝出。儘管如此，舍恩的團隊仍被媒體視為當時歐洲最優秀的球隊，然而他對這種優越感或特殊的地位並不願談論得太多。
告別，1978年世界盃
1977年4月27日，西德隊在科隆的58,000名觀眾面前以5比0戰勝北愛爾蘭。這是核心球員貝肯鮑爾自轉會美國紐約宇宙之後所缺席的第一場比賽。在隨後的11場比賽中，西德隊保持不敗，其中最引人注目的是其於1977年6月的南美之行所獲得的成功，先後戰勝了烏拉圭、阿根廷、巴西和墨西哥，這也使得大眾對於舍恩的團隊能夠在1978年世界盃再創輝煌充滿期待。然而，在1978年阿根廷世界盃開賽前，於1978年4月5日和19日分別對陣巴西及瑞典的最後兩場熱身賽中，西德隊的表現令人大失所望，尤其是在斯德哥爾摩以1比3不敵瑞典。此時許多批評的聲音均指向老將貝肯鮑爾、布萊特納、格拉博夫斯基以及來自皇家馬德里的年輕球員烏利·斯蒂利克的缺陣，他們皆因為行政原因或個人原因沒有入選這一期的國家隊。而這4名球員最終也未能參加1978年世界盃。1978年6月1日，在布宜諾斯艾利斯進行的對陣波蘭的世界盃揭幕戰中，西德隊發揮欠佳被0比0逼平。舍恩隨即發表了一份聲明：
我們太過於尊重對手，顧慮和閃躲充斥著這場比賽。從開場哨吹響後，兩隊似乎都陷入了癱瘓。無論是我們還是波蘭，幾乎都在兩三個來回後自動傳球失誤。他們都很害怕比賽。純粹出於安全性的考慮，球被反覆橫傳倒腳。我能理解觀眾的失望情緒。但畢竟許多球員都是第一次在這裡對陣上屆世界盃的季軍。
在經歷了首場比賽的“假煙幕”後，西德隊在次戰以6比0大勝墨西哥。但在分組賽最後一場比賽中，他們再度與突尼西亞互交白卷。西德隊以一個並不具有說服力的表現進入第二階段分組賽。而其後在對陣義大利的比賽中，他們迎來了第三場0比0。舍恩團隊的表現因為缺乏自信而起伏不定，並且事實證明這支球隊已經喪失了鮮明的個性。在以2比2戰平荷蘭後，西德隊在本屆杯賽的最後一場比賽是1978年6月21日在科爾多瓦對陣奧地利，若取勝則仍可參加季軍爭奪賽。但西德陣中躁動不安的情緒再次在這場比賽中展現出來，奧地利憑藉漢斯·科蘭克爾在第88分鐘射入的制勝球以3比2結束比賽。經過在阿根廷乏善可陳的表現後，德國足球的黃金時代隨之宣告結束，舍恩在這屆杯賽完結前正式提出辭任國家隊主教練一職。儘管這個時機與他的構想不盡相同，他原本計畫至少可以參加與巴西的季軍爭奪戰，但對陣奧地利的失利粉碎了舍恩的夢想。
舍恩的辭呈在1978年11月15日西德隊於法蘭克福迎戰匈牙利的國際比賽前正式獲得德國足協的批准。由於受到濃霧影響，他的這場告別賽僅歷時60分鐘，在比分仍維持於0比0時被迫提前結束。舍恩離任後，德語歌手烏多·尤爾根斯專程為他創作了一首名為《戴帽之人》（Der Mann mit der Mütze）的單曲。
傳記作家魯德格爾·舒爾策（Ludger Schulze）用以下幾句話對舍恩的退休作出了描述：
他始終忠於足球，並不僅因為他是一名足球人，更多的是（他對足球的）愛。赫爾穆特·舍恩也許是這一代教練中最後的代表人物：不以金錢為目標，不好大喜功，而是以對足球的熱枕作為工作的原動力。人們總會是有一種類似這樣的感覺。
晚年生涯
在從西德國家隊主教練的職位卸任後，舍恩也隨之退休，並連同其妻子安內麗絲返回了他們在威斯巴登的第二故鄉安度晚年。此後他甚少對足球比賽發表評論。其繼任者尤普·德瓦爾在代表國家隊接受採訪時聲稱球隊事務已與舍恩無關，他應該像其前任、曾精心發表過諸如“足球是圓的”或“最重要的永遠是下一場比賽”等名言的塞普·赫爾貝格那樣，享受一生的傳奇光環。
1983年5月31日，舍恩曾連同德瓦爾共同出席了保羅·布萊特納在慕尼黑舉行的世界明星隊對陣拜仁慕尼黑的告別賽。1990年當他75歲生日時，1974年的世界冠軍隊成員共同來到威斯巴登看望他。20世紀90年代後，舍恩的生活開始變得清淨，身患阿茲海默病的他在威斯巴登地區的一家老人院“漢斯·吉布納之家”（Hans-Giebner-Haus）度過了最後的歲月。他於1996年2月逝世，德國足協為此在威斯巴登州立劇院（Hessisches Staatstheater Wiesbaden）舉辦了一個追悼會。他的遺體最終安葬於威斯巴登的北部公墓（Nordfriedhof）。
畢生成就
在球員生涯晚期，舍恩作為球員兼教練成功的過渡到教練生涯，並在他於1964年至1978年擔任西德隊主教練期間成為當時世界上最成功的主教練之一。舍恩率隊贏得了1974年世界盃冠軍和1972年歐錦賽冠軍；並獲得1966年世界盃亞軍、1976年歐錦賽亞軍以及1970年世界盃季軍。許多體育記者將他在任期內的優異表現歸結於他給予了國家隊較大的自由度和話語權，而不是固守刻板的戰術策略。但在他的執教生涯結束後，這一風格也常被解釋為缺乏領導能力。
在舍恩治下，許多年輕球員例如弗朗茨·貝肯鮑爾、君特·內策爾、塞普·邁耶、蓋德·穆勒、尤普·海因克斯、貝爾蒂·福格茨、保羅·布萊特納、烏利·赫內斯、貝恩德·霍爾岑拜因和萊納·邦霍夫等人均迎來了自己首次代表國家隊上陣的機會，並在1972年和1974年的大型賽事中大獲成功。作家迪特里希·舒爾茨-馬梅林和胡貝特·達坎普將舍恩在1966年至1974年在西德執教的這八年時期形容為“德國國家隊歷史上最華麗、最忙碌和最成功的一個階段”。他作為宿命終結者，在任期內率領西德隊歷史上首次戰勝英格蘭和巴西。此外在1966年世界盃決賽對陣英格蘭的比賽中，他的團隊在加時賽遺憾的以2比4告負，造就了足球史上最著名的爭議失球；而1970年半決賽中以3比4不敵義大利的史詩般對決也被媒體冠以“世紀之戰”的美譽。舍恩從1964年11月4日至1978年6月21日共率領西德隊參加了139場比賽，取得了87勝30平22負的成績，總淨勝為292：107，球隊在這一時期共有50場比賽確保球門不失。
舍恩作為西德隊主教練所取得的成就在業界無可爭議。他在1960年代中至1970年代末德國足球的鼎盛時期帶來了國家隊層面的國際影響力。在他卸任後，再沒有德國國家隊主教練可以達到與之相等的任期或成就。當舍恩在1964年成為塞普·赫爾貝格的繼任者時，他也談到了聯邦德國的社會變革。儘管自己不是六八運動的一份子，他還是將崇尚解放思潮和個人主義的新一代球員整合到一起，並攀升至世界足壇的巔峰。舍恩的外表及個性使他不受意識形態的衝突和教條主義的束縛，足球不再被他視為單純的命令與服從或僅局限於更衣室的遊戲。但與此同時，與他同一時代的許多德國教練仍然是傳統的“身穿運動裝的獨裁者”。他們對於舍恩這種語調柔和、含蓄及夥伴般的執教藝術感到惱火，並時常對其發表批評。
舍恩的團隊代表了一種新的趨勢，他容許場上球員自由發揮各自的技術特點，但同時呼籲他們必需承擔相應的的職責，這也是球員獲得上場機會的唯一條件。
舍恩對訓練方式有著獨特的見解，他要求所有的演練都必須以足球為中心。這也被稱作組織進攻時的“秩序”。尤其是當中有一個清晰和明確的職責分配，所有的球員都必須對此了解。這種秩序同樣被套用於正式的比賽體系中。舍恩需要球員在比賽中保持對中場的掌控，並在此基礎上發展出雜耍般的思路和展現出創造力。作家達坎普用一段話真實的概括了舍恩的比賽哲學：“他的足球智慧就是我們社會關係中一個俏皮的縮影，每個人都可以理解，如此簡單、又富於變化——就像生活，總是可能出現新的態勢”。
榮譽及獎項
舍恩在1974年獲得聯邦總統頒發的銀質月桂葉勳章和大十字勳章。德國足球協會於1980年提名其為名譽會員。1984年，他又獲頒國際足聯榮譽獎。在逝世後，他於2008年入選了德國體育名人堂（Hall of Fame des deutschen Sports）。一年後，以他名字命名的赫爾穆特·舍恩體育公園（Helmut-Schön-Sportpark）在威斯巴登建成，其入口處豎有雕塑家托馬斯·杜滕霍費爾（Thomas Duttenhoefer）所創作的舍恩半身雕塑；入口另一側還設有威斯巴登市政廳主辦的名為“赫爾穆特·舍恩——踢球人生”的主題展廳。在德勒斯登，格呂克斯天然氣體育場附近的一條街道也被命名為赫爾穆特·舍恩徑（Helmut-Schön-Allee）。
