據1989年8月所立村碑記載，明朝萬曆年間張姓建村，因址在山嶺，冠以姓氏，故名張家嶺。據民國二十四年《續修萊蕪市志》記載：“里辛鄉·張家嶺”。
據《萊蕪市志》載，張家嶺村清末屬萊蕪東鄉里辛保；民國初屬顏莊區；1941年萊蕪三縣分治，大區劃小區，張家嶺屬新甫縣清泥區；1945年10月恢復萊蕪縣，張家嶺屬萊蕪縣顏莊區；1958年10月撤消區級建製成立人民公社，張家嶺村屬鄭王莊人民公社；1959年2月，鄭王莊與顏莊兩個公社合併，張家嶺屬顏莊人民公社；1984年4月改為顏莊辦事處；1985年10月小鄉並大鄉，張家嶺屬里辛鄉，後鄉改鎮，張家嶺屬里辛鎮至今。
張家嶺村建村已有300多年歷史，自明朝萬曆年間起，張家嶺村民聚居此處，繁衍生息。現有陶、呂、趙、李、吳、董、王、劉八姓，八姓當中陶姓居多，約占全村總人口的四分之一。村民不分宗族、貧富，世代和睦相處，勤勞樸實。東西兩自然村之間，有一天然嶺溝，呈南北走勢。溝南頭有一口泉井，常年不乾，清澈的泉水長流不息。近旁形成一水汪，汪中有一巨石酷似龍頭，此溝向北順勢蜿蜒至里辛河，似龍身龍尾，因而得名龍汪溝。早年村民飲水、澆苗均從這裡挑水用。
張家嶺東鄰銀山，《萊蕪礦志》記載，據說唐初大將尉遲敬德曾帶兵在此開礦，現如今唐、清鐵礦遺址於1998年被定為鋼城區第一批重點保護文物。
