1979年5月3日下午5時50分,劉少林和副班長等6名戰友完成了當天的訓練任務開車返回營區,途經酒泉縣造紙廠門前東側北乾渠橋頭,忽然發現從水渠上游急流中卷下兩個青年,後邊還有一台手扶拖拉機也被急流沖卷著向下翻滾。這是酒泉地區邊灣農機學校的兩名青年職工,一個叫栗懷林,一個叫王洪程,他們駕駛手扶拖拉機到酒泉縣城買東西返回,行至縣造紙廠門前小橋西15米處,翻入沙水渠中。北乾渠寬7米,深約2米,坡度50度,又陡又滑,流速6米/秒,流量15立方米/秒,水流湍急。栗懷林、王洪程被急流沖卷著,生命受到嚴重威脅。劉少林和戰友看到這一情況後,緊急剎車,車未停穩,坐在駕駛室的劉少林和李秀元首先躍出了車門。劉少林望著被急流衝下來的栗懷林,來不及脫衣服就要往下跳,李秀元拉住他說:“你不會游泳,不能跳。”可劉少林瞪著雙眼,邊跳邊喊:“救人要緊!”隨即跳進水渠。劉少林、李秀元兩人沖在前面奮力搶救栗懷林。戰士李益川、王志松也隨後跳入水中搶救王洪程。副班長趙國權,戰士張希傑拿著標桿沿岸追趕,緊密配合。劉少林追上並抓住了栗懷林的手臂,栗懷林抬起頭來一邊咳嗽,一邊大口喘著粗氣。劉少林對栗懷林說:“不要怕,我們一定救你上岸。”栗懷林望著捨身救自己的解放軍戰士,頓時心中充滿了希望,他急忙一把抓住了劉少林背上的衣服,劉少林身體一沉,這時一個浪頭打來,劉少林的帽子被捲走,一口水嗆得劉少林腦脹胸悶。劉少林吸了一口氣,用盡力氣拉著栗懷林向南岸游去,可是油滑溜光的陡坡無處可攀,南岸搶救的人還離得遠,幫不上劉少林的忙。劉少林急忙改變主意邊劃邊蹬,使勁將栗懷林向北岸推去。
水渠里流淌的是祁連山上溶化的雪水,冰涼徹骨,寒冷鑽心。劉少林已凍得臉色青紫,渾身顫抖。他緊咬牙關,一步一蹬,拚命向前游,終於把栗懷林推到岸邊。先靠岸的李秀元用手摳住石縫,試圖往上爬。石縫裡的水銹像塗了一層油,手一下子滑脫了,3人又被捲入急流中。這時,劉少林又喝了幾口水,漸漸地快要支持不住了,但他看到戰友和落水的栗懷林沒有脫險,又鼓起勇氣奮力劃著名、蹬著,100米,150米……3人又一次靠近了北岸。李秀元剛剛抓住岸上伸下來的標桿。忽然,又一個浪頭打來,3人又被急流沖走。劉少林已經筋疲力盡,但是他仍把頭埋進水中,用盡全身力氣向上托起栗懷林。正在此刻,一股惡浪撲來,劉少林的身體立刻被惡浪吞噬了。副班長趙國權拿著標桿,邊追趕邊悲痛地呼喊:“少林、少林……”
栗懷林得救了,而英雄戰士劉少林卻英勇犧牲了。他用自己年輕的生命,譜寫了一曲為搶救人民生命而英勇獻身的英雄頌歌。
劉少林生前所在的工兵連黨支部、師直屬黨委作出決定,要求部隊廣泛開展向劉少林同志學習的活動。1979年5月15日,劉少林被部隊批准為革命烈士,並提前轉為中共正式黨員;同年8月23日蘭州軍區黨委決定:授予劉少林“愛民模範”光榮稱號,並追記一等功。