與青年商人仲肇髮結成學友
翌年，他與毛儀庭、李仲剛等人，在大連南山（今中山區同心街）創辦了中華增智學校，毛儀庭當校長，他當義務教師，白天教青少年，夜教印刷工人。1923年4月考入大連政治學校夜校部，1925年4月畢業後，擔任了增智學校校長。在此期間，他接觸了來大連考察工人運動的共產黨員李震瀛、鄧中夏和大連工人運動領袖傅景陽、趙吾塵等人，在他們的影響下，積極參加大連中華團體組織的政治、體育等活動。1924年9月7日，在中華各團體於永善茶園（今鴻吉大舞台）召開的“國恥紀念大會”上，他發表了愛國演說，啟發人民的愛國覺悟。
“五卅”慘案
1925年上海發生“五卅”慘案的訊息傳來時，林升亭正在奉天（今瀋陽）省教育廳辦理擴展增智學校註冊手續，適逢省教育廳召開會議聲討帝國主義侵華罪行，他以大連代表的身份應邀參加會議並發言，強烈譴責帝國主義侵略中國領土和屠殺中國人民的罪行。回連後，他積極參與反帝愛國活動。6月15日，大連各愛國團體聯合發起成立大連“滬案後援會”，林升亭被推選為執行委員會委員。當月27日，他帶領增智學校全體學生參加“五卅”殉難烈士追悼大會。會上，他不畏殖民當局的威脅，領著大家唱追悼歌，聲淚俱下地念悼詞。
籌備會議
1926年1月，根據中共中央和中共北方區委關於實行國共合作、建立和擴大國民黨組織的要求，林升亭與大連特支書記楊志雲等人進行籌備，於同年2月成立了國民黨大連市黨部，林升亭任黨部書記長。同年4月，大連福紡紗廠“四·二七”大罷工爆發後，中共大連地委決定成立“福紡罷工委員會”，林升亭以罷工委員會委員的身份，先後赴奉天省國民黨黨部、上海黨中央和廣東國民政府請求援助，通過謝文達起草日文傳單《致日本工人階級書》（後經總工會領人鄧中夏改為《中華全國總工會為大連案致日本無產階級書》，發表在《工人之路》刊物上）。在赴滬、粵等地的活動中，他化名林建民公開宣傳大連工人階級的正義鬥爭，控訴日本帝國主義的罪行，上海報紙及時登載他的言論。為此，遭到日本殖民當局的通緝，被迫返連隱居。
因日本殖民當局追查被迫化裝去上海
1926年10月，林升亭因日本殖民當局追查，被迫化裝去上海，後轉到武昌參加北伐軍，任連指導員。北伐戰爭失敗後，1928年2月，返鄉創辦了一所私塾館，給兒童講授中國商務印書館出版的課本。翌年9月，他在原私塾館的基礎上，創立了旅順民眾學校，任教員，後任校長。
1931年冬，林升亭加入中國共產黨，被市委指定負責旅順黨的工作。1932年4月，根據中共大連市委的指示，他在民眾學校學生中發展林均模等8人入團，建立了共青團旅順民眾學校支部。以後又發展了6名團員。1932年9月，中共滿洲省委常委、巡視員金伯陽在旅大活動時，由於發生經費困難，向林升亭求助，林升亭毫不猶豫地慷慨解囊。1933年2月，原中共日照縣委書記王德海被反動當局通緝，來大連隱蔽，經張洛書介紹，由林升亭將王轉移到民眾學校當教員。1933年“五·一”節和“九·一八”紀念日，林升亭在校內油印反對日本帝國主義的革命傳單，交由張洛書帶至大連散發。
1933年10月，林升亭被日本殖民當局逮捕入獄，判刑7年，於1938年9月，以犯罪證據不充分，準保出獄。但殖民當局只限他在鄉下從商務農，不準再入校教書，還派警察、走狗進行監視。
林升亭出獄後與黨組織失去聯繫。為避開敵人的監視，他於1939年2月化裝成日商離連去天津、武漢等地。東北解放後，他曾在東北人民政府勞動部工作，後返鄉務農。
1979年，林升亭病故，終年80歲。
