陳唐山於“國立”台灣大學大氣物理系畢業後，於1964年前往美國俄克拉荷馬大學攻讀碩士，於1966年取得碩士學位，1972年陳唐山於美國普渡大學取得地球物理學博士學位。陳唐山曾經於美國聯邦政府商業部工作，並且曾經從事人造衛星分析與亞洲資源中心主任與美國國際開發中心董事。
陳唐山在美國期間便從事台灣“獨立”運動，1966年與蔡同榮等人組成“全美台灣獨立聯盟”，1970年更組織“台灣獨立建國聯盟”，1974年“世界台灣同鄉聯合會”成立後，陳唐山於1979年到1984年出任“世界台灣同鄉聯合會會長”，而且陳唐山也出任“台灣人權協會會長”。1988年陳唐山出任“台灣國際關係中心”負責人，負責遊說美國國會。
陳唐山雖然被列入黑名單而無法返台，但是陳唐山由於常常協助越界被捕的台灣漁民返台，使得國民黨當局對其態度也較為溫和，1987年便允許陳唐山返台，1990年又獲邀參與“國是會議”。而陳唐山也發起“海外台灣人返鄉運動”，協助“台灣獨立建國聯盟”成員回台；陳唐山於1992年加入民主進步黨，並且當選僑選“立法委員”，1993年12月在民進黨提名參選第12屆台南縣長，並且當選；1997年與中國國民黨提名的“立法委員”洪玉欽競選第13屆台南縣長時也以囊括台南縣66%的選票高票獲得連任。陳唐山擔任台南縣長期間，不凸出個人知名度，也從未於民主進步黨擔任中常委、中執委與中評審等職。
2000年陳水扁當選“總統”後，曾經有意延纜陳唐山出任“行政院國科會主委”未果，改出任“總統府科技諮詢委員會委員”；2001年陳唐山於台南縣當選第五屆“立法委員”。
2004年陳水扁競選連任時，曾在地方對著陳唐山說，“下次你不必選‘立委’了。”意味著如果連任將延攬“入閣”。
4月，陳唐山接替簡又新任“外交部長”與出任國際合作發展基金會董事長。
2006年1月，謝長廷“內閣”總辭，陳唐山出任“總統府秘書長”。
2007年2月，“總統府”人事調動，陳唐山與邱義仁職位對調，改任“國安會秘書長”。
2008年3月27日，葉菊蘭請辭“總統府”秘書長，陳唐山回任。
有訊息傳出，2009年陳打算再次參選台南縣長。
2012年1月，代表民進黨當選為台灣地區第八屆區域“立法委員”。
