因日本遵守“一個中國”政策,所謂的“中華民國”與日本無正式“邦交”,“兩國”以民間機構名義設定所謂的“外交代表機構”;但台灣當局所謂“外交部”對內將該代表處定位為所謂的“大使館級外交機構”,處長的官銜則自2012年9月1日起正名為“大使 ”,對外則仍稱代表。代表處本部位於東京,另設定5個具有領事館功能的分處。
1972年9月29日,日本與中華人民共和國建交、並同時與“中華民國”“斷交”。1972年12月2日,“行政院”設立所謂“亞東關係協會”負責對日關係事務。 1992年,“亞東關係協會東京辦事處”改名為“台北駐日經濟文化代表處”。
日本在台灣設立的對應代表機構為日本台灣交流協會的台北事務所、高雄事務所。