北總布胡同清乾隆時稱城隍廟胡同。因街內有一城隍廟得名。此廟建於明萬曆十八年(1590)六月。清光緒二十五年(1899)重修,彼時香火甚盛。次年,八國聯軍入侵北京,香火自此開始蕭條。宣統時稱城隍廟大街。民國八年(1919),因廟有礙交通,遂拆毀。民國三十六年(1947)稱北總布胡同。
北總布胡同二號原是用建協和醫院的余料蓋的,是美國煤油大王洛克菲勒基金會董事長為其父母蓋的,抗日戰爭時一日本官僚居住。日本投降後,此宅被收歸國有。根據停戰協定,為調處國民黨、共產黨之間的軍事衝突,成立了軍事調處執行部,簡稱軍調部。中共代表葉劍英、國民黨政府代表鄭介民、美國政府代表羅伯森,後美國總統特使馬歇爾也參加。民國三十五年(1946),此宅為軍調部國民黨代表駐地。後又歸國民黨第十一戰區司令長官孫連仲居住。解放後收歸國有,成為某單位宿舍。