沿革
1895年8月，台灣總督府成立 水稻試作所，最初設於今台大醫院新館址。
1900年，改為 台北縣農事試驗場。
1901年，改為 台灣總督府台北農事試驗場（另有台中及台南農事試驗場）。
1903年5月16日，遷至台北廳大加蚋堡頂內埔莊（後為富田町329番地，土地涵蓋今國立台灣科技大學、國立台灣大學昆蟲系館，原廳舍址為今台灣電力股份有限公司台北市區營業處址，農業試驗所昆虫部廳舍仍被中華民國對外漁業合作發展協會使用）。11月17日，合併台中及台南農事試驗場，改為 台灣總督府農事試驗場。
1921年8月2日台灣總督府中央研究所成立，原農事試驗場與糖業試驗場、茶樹栽培試驗場、園藝試驗場、種畜場整並為 台灣總督府中央研究所農業部，農業部底下設有種藝、農藝化學、植物病理、套用動物及畜產等5科，仍用原農事試驗場廳舍和試驗場；台灣總督府高等農林學校（今國立中興大學）遷入農事試驗場全面取代原本的農事講習，招收豫科、農業科及林業科學生。
1925年成立台灣總督府中央研究所農業部昆蟲標本館（1939年一併改為台灣總督府農業試驗所昆蟲標本館）。
1939年4月28日中央研究所裁撤，農業部改制為 台灣總督府農業試驗所，下轄育種農藝、農藝化學、病理昆蟲、畜產、園藝等5科和總務課。
1945年台灣光復後，改稱“ 台灣省農業試驗所”，直隸台灣省行政長官公署。
1949年，台灣省行政長官公署改組為台灣省政府，農試所改為 台灣省政府農林廳農業試驗所。
1977年12月，該所原位於台北公館的機關全部遷移台中縣霧峰鄉萬豐村（今台中市霧峰區萬豐里）現址。
1999年7月1日精省，改為 行政院農業委員會農業試驗所。
2012年農業部成立後，將改為 農業部農業試驗所。
歷任首長
日治時期
藤根吉春：1903年11月17日－?
民國時期
趙連芳：民國34年11月－35年3月
凌立：民國35年4月－36年7月
湯文通：民國36年7月－39年1月
徐水泉：民國39年1月－58年12月
萬雄：民國59年4月－75年10月
杜金池：民國75年11月－84年8月
林俊義：民國84年8月－97年2月
陳炳輝：民國97年3月－97年8月
劉大江：民國97年8月－99年9月
陳駿季：民國99年9月－現任
組織
所長 副所長 主任秘書
內部單位
行政單位
秘書室
人事室
會計室
政風室
業務組
作物組：設有稻作、雜糧與特用作物、果樹、蔬菜、采後處理、作物生理與逆境、生物統計、作物資訊研究室。
生物技術組：設有生物安全、分子遺傳、組織培養、產品開發研究室。
農業化學組：設有“土壤及植物體營養診斷中心”及“台灣土壤陳列館”。
植物病理組：設有真菌、病毒、細菌及線蟲等四個作物病害研究室，及專責食用及藥用之菇類研究室。
套用動物組
農業工程組
農業經濟組
作物種原組
技術服務組
農場管理組
附屬單位
嘉義農業試驗分所[1]：設有農藝系、園藝系及植物保護系。
鳳山熱帶園藝試驗分所[2]：設有熱帶果樹、蔬菜、植物保護及經營利用等四個系。
花卉研究中心[3]
關西工作站
合作機構
有雙邊簽署合作備忘錄或協辦各項國際會議的機構
國際組織
APEC（亞太經濟合作會議）
APSA（亞太種子協會）
APO（亞洲生產力組織）
AVRDC（世界─亞洲蔬菜中心）
APAARI（亞太農業研究機構聯盟）
ATCWG（亞太經濟合作協會）
AARDO（亞非農村發展組織）
IRRI（國際稻米研究所）
美國普渡大學
國內機構
中央研究院
國立中興大學
國立中正大學
亞洲大學 (台灣)
中台科技大學
中州科技大學
