光緒辛巳年,地方名士余霽園、徐澤霖、倡議集資,在張渚靈官場(現學校校址)興建書院,歷時七年,建成了書院、門慶、講堂、文昌閣、魁星閣、三賢祠等,在當時可稱是“堂構聿新,規模整肅”的學府。鑒於三國時孫皓封禪國山,張渚古屬國山封禪地,於是命名為“國山書院”。由地方名士堵景辰親自書寫“國山書院碑記”。碑現存放於張渚高級中學內。
民國六年,國山書院更名為“國山高等國小”,隨著學校的發展,曾先後更名為“宜興縣第八高等國小”、“國山國小”、“宜興縣張渚中學”等;1992年,始用“宜興市張渚高級中學”之名;1994年,被宜興市政府命名為市重點中學;1997年,被江蘇省教育廳命名為江蘇省重點中學,至此,學校已發展成為一所省級山區名校。