家老一般有數人，採取合議制管理幕府和領地的政治，經濟和軍事活動。在幕府或藩中地位很高僅次於幕府將軍和藩主。
作為大名的重臣，統帥家中的所有武士，總管家中一切事物。一藩有數名，通常為世襲。家老起源於鎌倉時代，那時候被稱為 年寄（としより、おとな）， 宿老（しゅくろう）， 執事（しつじ）。年寄在日語中是老人的意思，雖然家老通常由年長者擔任，但並非年輕人就不能擔任家老。室町時代中期出現，逐漸成為大名武士不可缺少的臣僚。江戶時代，輔佐領主，是掌管政務的核心人物，即大管家。
家老通常是譜代家臣中的佼佼者，原則上主家的分家不會擔任家老。然而隨著領地縮小，財政拮据，無法給與分家支藩的情況下，同主家斷絕繼承關係後也有擔任家老的現象。
到了江戶時代，由於參勤交替的原因，管理各藩在江戶的宅第的家老稱為江戶家老（えどかろう）或江戶詰家老（えどつめかろう）。在自己領地內的家老稱為國家老（くにかろう），在所家老（ざいしょかろう）。國家老比江戶家老地位高。家老中地位最高的稱為筆頭家老（ひっとうかろう），家老首座（かろうしゅざ），一番家老（いちばんかろう）。管理領地內行政的家老稱為仕置家老（しおきかろう）。
除了御三家和御三卿的家老，其他大名的家老沒有覲見將軍的資格。親藩大名和譜代大名往往為自己的家老討取旗本的資格，這樣家老就能隨同自己覲見將軍。外樣大名的家老中除了祿高上萬石的少數人以外都沒有資格覲見將軍。
