蒙元時期
1289年，教宗尼古拉四世派遣方濟各會會士孟高維諾為欽使，攜國書前往元朝。1294年，孟高維諾抵達大都，覲見元成宗，獲準居留大都。1307年，教宗克萊孟五世設立汗八里總教區，任孟高維諾為總主教，統理中國及遠東教務。1328年，享年81歲的孟高維諾在大都去世，繼任的歷任主教一直未有到任。但是大都的教友數仍然達到六萬。
1368年，明朝軍隊攻占大都。1375年，汗八里總教區撤銷。
宣武門聖母無原罪堂（南堂）
明末清初
1601年1月24日，利瑪竇帶著獻給萬曆帝的禮物抵達北京，獲準定居。他在北京結交中國的士大夫，引領其中的一些人信奉天主教。1610年5月11日，利瑪竇在北京去世。
1690年4月10日恢復北京教區，從南京代牧區分設。
禁教時期
天主教北京總教區1899年，直隸北境代牧區東部的永平府分出，設立直隸東境代牧區。
1900年6月13日，義和團進入北京內城，當天燒毀11所教堂，包括天主教東堂、西堂和南堂。有3200名天主教徒逃入樊國梁主教所在的北堂（有42名法兵占據）。6月15日，義和團開始圍攻北堂，直到8月16日解圍。
1910年2月14日，從直隸北境代牧區中分出直隸中境代牧區。1912年4月27日，又從直隸北境代牧區分設直隸海濱代牧區。
1924年12月3日，直隸北境代牧區以主教座堂所在地改名為北京代牧區。
1926年5月10日，口北十縣（宣化、萬全、龍關、赤城、懷來、陽原、懷安、蔚縣、延慶、涿鹿）從北京代牧區分出，成立宣化代牧區。1929年5月25日，從北京代牧區和保定代牧區各分出一部分，成立易縣自治區（1935年升為易縣監牧區）。
1946年4月11日，教廷在中國廢除傳教區體制，正式建立聖統制，於是設立正式的北京總教區。62歲的法籍主教滿德貽退休，讓位於中國籍樞機主教田耕莘（聖言會會士）。1949年，田耕莘離開北京，前往美國芝加哥。
