1941年美國參加第二次世界大戰前,倫道夫向當時的總統富蘭克林·羅斯福提出警告,稱將組織黑人到華盛頓示威,以抗議政府未能在黑人的就業問題上給與保證。迫使美國政府於6月中旬頒布了著名的第8802號行政命令,禁止在重點企、事業中實行種族歧視,並建立公平實施就業的機構。
戰後,倫道夫繼續擔任兄弟會主席。1955年美國勞工聯合會和產業工會聯合會合併時,喬治·米尼當選主席,他當選為副主席。1963年,他又發起了一次向華盛頓進軍的美國迄今為止最大規模的爭取勞工權利的示威遊行。此事也被視為他整個事業的頂峰而聞名於世。1979年5月16日,這位著名的黑人勞工領袖以90歲高齡離開人世。