說起地調所的成立，首先應回顧一下近代中國的地質調查工作。把地質科學引入中國並從事早期的地質調查工作應從20世紀初開始，當時，魯迅先生曾著有《中國地質略論》，華衡芳先生著有《地學淺識》等，鄺榮光編制了我國第一幅地質圖《直隸省地質圖》，所有這些，都為中國地質科學的發展奠定了基礎。
辛亥革命成功後，孫中山組織的臨時政府在實業部設定了地質科，由畢業於東京帝國大學地質系的章鴻釗主持日常工作。為了進一步發展中國的地質事業，章鴻釗認為應大力培養中國自己的專門人才，建議成立相應的科研和教育機構。1913年，地質調查所成立，由從英國學成歸來的丁文江任所長，這是近代中國最早的從事地質科研與教育的機構，它代表了中國社會發展、民族獨立和科學振興的需要。
從1913年到1916年，地調所培養出了葉良輔、謝家榮等一批人才，他們成為我國最老一輩的地質學家。也就是從這時候起，中國有了自己的地質專業隊伍並開始實際工作。他們在河北、山東等地測制地質圖，並開始了中國最早的岩石、礦物和古生物的調查工作，從而結束了依靠外國人在中國從事地質調查和研究的局面。
本世紀20-30年代，是地調所的重要發展時期。這一時期，地調所先後建立了古生物研究室、新生代研究室、沁園燃料研究室、礦物岩石研究室、地震研究室和土壤研究室等。並湧現出一批不同學術領域的專家，例如地質學家李春昱、地層古生物學家尹贊勛、岩石礦物學家程裕琪、礦床學家謝家榮、測繪專家曾世英、古脊椎動物專家楊鍾健、地震專家李善邦、土壤專家熊毅等等。很長一段時間以來，這些人都是我國科學界的重要領頭人，他們為我國地質科學以及相關學科的建設和發展做出了重大貢獻；他們所取得的成就也為地調所書寫了輝煌的一頁。
1935年，地調所從北平的豐盛胡同遷到南京，部分留下來的人員成立了北平分所。“七七事變”後，分所工作停頓，在南京的本所繼續開展工作，其機構日趨完整，科研人員也在不斷充實和加強。抗戰全面爆發後，地調所隨政府遷至四川北碚，為與省地調所相區別，1941年正式定名中央地質調查所。30年代起，歷任所長有翁文灝、黃汲清、尹贊勛和李春昱等。抗戰勝利後，地調所又遷回南京。至1949年，地調所與原中央研究院地質研究所（成立於1936年）等成為新中國地質事業的奠基單位。
1950年8月，中央決定成立中國地質工作計畫指導委員會，任命李四光任主任委員，尹贊勛、謝家榮任副主任委員，統一領導新中國的地質工作，全國地質機構開始實行大的調整，地調所和原中央研究院地質研究所等機構同時宣告撤消。
從1913年地調所成立，到1950年撤消，這一中國最早建立的地質科學研究機構走過了37年的光輝歷程。她為中國近代地質科學的發展完成了奠基，孕育誕生了中國最早的地學的不同分支領域，培養造就了一大批中國地質精英，完成了中國近代的大量地質調查和科學研究工作，在此基礎上又為新中國的地質事業的發展輸送了人才，並使新中國的地質科學事業取得了一系列輝煌的成就，讓我們無限緬懷這一中國最早建立的地質科學研究機構，緬懷那些為祖國的科學事業勇於獻身的人
