儘管公元前3500年左右腓尼基人在沙漠上烹煮食物時就於無意中發現了玻璃的製造方法，但直到5000年後，人類才掌握了將玻璃磨成透鏡並進而製成望遠鏡的方法。在13世紀時，放大鏡已經非常普及。
17世紀的荷蘭商人利伯希（Hans Lippershey）通常被認為是望遠鏡的發明者。1608年，他與雅可布·梅提斯（Jacob Metius）幾乎同時申請了可以“看到遠方的東西，仿佛它們就在身邊”的設備的專利。但實際上，他只是第一個將這種新設備——把一個凸透鏡和一個凹透鏡安裝在一個管子裡——廣而告之的人而已。
1609年，伽利略在聽到利伯希有關望遠鏡的工作的訊息後不久，就自行製造出了一架小的天文望遠鏡。這架望遠鏡只能提供30倍的放大率，而且視野非常狹窄。事實上，如果不調整望遠鏡的位置的話，伽利略只能看到1/4張月亮的臉。但是，伽利略還是利用它觀測到了月球隕石坑、太陽黑子、木星的4顆衛星、土星環，並指出銀河實際上是由許多恆星構成的。
1672年，牛頓提出了一種新的望遠鏡設計概念。區別於伽利略的折射望遠鏡，牛頓的新望遠鏡使用一面凹透鏡將光線聚集並反射到焦點上，因此被稱為反射望遠鏡。反射望遠鏡的反射鏡就像一個水桶一樣，水桶越大，裝的水越多，反射鏡越大，能夠收集到的光也越多。這種設計使望遠鏡的放大倍率達到了數百萬倍，遠遠超過了折射望遠鏡所能達到的極限。
雖然基本原理一直不變，但牛頓使用的6英寸直徑小銅鏡卻在隨後的歲月里逐漸被更大口徑的折射鏡所取代。1845年，威廉·帕森（William Parsons）在愛爾蘭建成了一架口徑為72英寸的反射望遠鏡。直到1917年為止，它一直占據著世界最大的反射望遠鏡的寶座。
1930年，德國天文學家伯哈德·施密特（Bernhard Schmidt）將折射望遠鏡和反射望遠鏡的優點（折射望遠鏡像差小但有色差而且尺寸越大越昂貴，反射望遠鏡沒有色差、造價低廉且反射鏡可以造得很大，但存在像差）結合起來，製成了第一台折反射望遠鏡。這種望遠鏡被稱為 施密特-卡塞格倫望遠鏡，是目前最流行的天文望遠鏡。
