人物生平
捐官求仕
漢武帝元光五年（前130年），黃霸出生於淮陽陽夏（今河南太康），自幼攻讀法律之學，胸有大志，喜歡做官。漢武帝末年，黃霸以待詔身份捐官做了侍郎謁者，後因兄弟犯罪，被彈劾罷官。
隨後黃霸又捐谷求官，授補左馮翊，管轄沈黎郡，負責郡內錢糧事宜。黃霸在任內，公正無私，經上司考察，升任河東均輸長，負責徵收、買賣和運輸郡內貨物。
勤政愛民
天漢四年（前97年），黃霸因清正廉潔被舉薦為河南太守丞。黃霸熟稔法律條文，在任內勤於觀察，待人接物溫良謙讓，處事議政合乎法度，順應人心，深得太守信任和百姓愛戴。
後元二年（前87年），漢武帝病逝，漢昭帝即位，由大將軍霍光輔政。左將軍上官桀等人與燕王合謀作亂，霍光殺掉他們之後，仍沿用武帝末年的嚴刑峻法制度，以嚴厲的刑罰約束臣民，導致各地官吏以執法嚴酷為能，唯有黃霸寬和以待，愛民如子，因此贏得了仁厚的名聲。
元平元年（前74年），昭帝崩，沒有兒子。權臣霍光等立昌邑王劉賀為帝，劉賀“荒淫無行，失帝王禮宜，亂漢制度”，在位27天后被廢。光祿大夫邴吉建議把流落民間的漢武帝曾孫劉病已迎入宮中，入繼大統，是為漢宣帝。 宣帝由於幼年遭遇變故，長期生活在民間，深知百姓的疾苦和吏治得失， 因而重視吏治，注意減輕人民負擔，發展農業生產。 宣帝聽說黃霸執法公平、仁厚愛民，就召升為廷尉正。黃霸在任內數次裁斷疑難案件，朝廷上下都認為判得很公平，不久轉任丞相長史 （丞相府秘書長）。
獄中受書
本始二年（前72年）五月，漢宣帝為標榜自己是漢武帝正統嫡孫的身份下詔頌揚漢武帝，要求群臣討論武帝的“尊號”和“廟樂”。 群臣莫不贊成，唯獨長信少府 （ 皇太后 師傅）夏侯勝極力反對，認為武帝對百姓沒有恩澤，不能另立廟樂，時任丞相長史的黃霸支持夏侯勝，拒絕在彈劾夏侯勝的聯名書上籤字。
黃霸半身像丞相蔡義和御史大夫田廣明帶頭聲討夏侯勝“非議招書，毀先帝”的罪行，定性為“大逆不道”；又揭發黃霸事先知道夏侯勝的觀點而沒有舉報，犯有包庇慫恿之罪；兩人都被捕入獄，判處死刑。 不過漢宣帝並沒有按慣例將夏侯勝和黃霸按“大逆不道”罪處死並“夷三族”，而是長期關押。
夏侯勝、黃霸被關在牢里後，過了很久也沒見行刑，黃霸就提議跟夏侯勝學習經術，夏侯勝以已獲死罪為由拒絕了他。黃霸引用《論語》說：“朝聞道，夕死可矣。”夏侯勝覺得他說得很好，於是就教他學習《尚書》。
本始四年（前70年）夏天，關東四十九郡同日地震，夾雜山崩，城牆房屋倒塌，死了六千多人。宣帝為祈求太平而大赦天下，夏侯勝和黃霸得以被赦出獄， 夏侯勝出獄後被任命為諫大夫，便讓左馮翊宋畸舉薦黃霸為賢良，又親自向皇帝舉薦黃霸，宣帝便提拔黃霸當了揚州刺史。
治理潁川
地節三年（前67年），黃霸因治績卓著，賢良考核名列上等。宣帝對黃霸在揚州任內的工作很滿意，下詔表彰，任命黃霸為潁川（今河南禹州）太守，俸祿兩千石，並賜一丈高的車蓋，車軾為丹黃色，以示德高望重。
黃霸像黃霸任穎川太守時，漢宣帝勤勉政事，多次頒布詔書，恩澤天下，地方官吏卻不讓百姓知道這些詔書內容。黃霸於是遴選品行優秀的下屬官吏，分散到屬縣宣傳恩澤詔書，讓民眾都能知道皇上的旨意。同時，黃霸還注重聽取百姓之聲。
黃霸對待百姓寬大仁慈、暗中又明察秋毫，深得吏民擁護，郡內的戶籍人口逐年增長，治績天下第一。宣帝非常高興，徵召他擔任京兆尹。不久，黃霸因為有過失而被貶，以八百石的官秩再度出任潁川太守，任職八年，郡中大治。
五鳳二年（前56年），宣帝下詔表彰黃霸的吏治之功，封為關內侯，賜黃金百斤，俸祿升為“中二千石”。幾個月後，宣帝任命黃霸擔任太子太傅，隨後又提拔為御史大夫。
（黃霸像取自清代修《安徽新安黃氏宗譜》）
拜相始末
五鳳三年（前55年）三月，黃霸77歲，接替丙吉任丞相，封建成侯，食邑六百戶。 黃霸擅長治民，卻不善於為相，任丞相時建樹不是很多，風采不如前任，名聲也比他治郡時有所下降。
鶡雀事件
黃霸擔任丞相期間，召集九卿、博士一起接見各郡前往京師匯報政績的官吏，黃霸想按照治理情況，對各地的官吏劃分等級，恰巧京兆尹張敞家中的鶡雀飛到了丞相府，黃霸以為是神雀，便商議著想上書稱瑞，後來知道是張敞所養，就沒有奏報皇上。
張敞反對變更法令，就將事情的始末稟告了宣帝：“臣家的鶡雀飛到丞相府，在場的官吏都認得這種鳥，丞相問及，卻都說不認識，可見眾人都懼怕丞相的權勢。如今朝廷制定的法令，勸民從善，防盜禁奸，條文已經詳備了，不可增改。應該令大臣訓示各地官吏，回去稟告郡守，推舉人才一定要名符其實，郡中公務應依法而行，不可擅自製定法令。”天子採納了張敞的奏言，黃霸因此十分慚愧。
舉薦事故
樂陵侯史高以外戚身份任侍中一職，名望很高，黃霸推薦史高可任太尉。 漢宣帝令尚書召黃霸質問說：“太尉一官廢除已久，其職責由丞相兼管，這是為了息武興文。如果國家動亂，邊境吃緊，左右大臣都可領兵打仗。丞相的任務是宣明教化，評判冤案。任命將相是我的職責；況且史高是我的近臣，我深知他的才能底細，何勞你越職舉薦他呢？”
尚書請丞相陳言己見，黃霸羞慚滿面，連忙摘下帽子謝罪，數日後昭帝才裁定黃霸免罪。從此以後，黃霸再也不敢向皇上進奏。然而自從漢朝興起，講到治理地方官吏民眾的，還是以黃霸為第一。
黃霸任丞相五年，甘露三年（前51年）壽終，享年82歲，諡號定侯。
據《大明一統志》記載：黃霸墓在考城縣東北十一里。
治郡理念
仁厚愛民
武帝後期，為加強中央集權而制定了極其嚴酷的法令，同時建立了察舉制度，並任酷吏以嚴刑法。昭帝繼位後，朝中嚴格遵循武帝時期的法律制度，以嚴刑峻法來控制各級官員。於是一些世俗官吏為迎合皇上旨意，就以在執法上能儘量採用嚴刑酷法作為一種有才能的表現，以能吹毛求疵作為衡量能力的標準。黃霸斷案卻崇尚仁政，反對酷刑；對疑案堅持從輕處理；主張對犯罪實行外寬內明，教化為先，把重點放在防患於未然上，所以，黃霸為官，百姓擁護，朝廷滿意，屬下悅服。
明察秋毫
黃霸善於調用下屬，百姓之事，無論巨細，都派人詳加調查並妥善處置，就連平民的家常瑣事，他也考慮得周到得體，黃霸還讓驛館、鄉里治所都餵養雞豬，以便贍養鰥寡貧弱的人。黃霸任潁川太守時，得知某鄉有孤獨老人去世，沒有後人來安葬，黃霸就親自督管此事：哪個鄉里治所的大樹可以砍伐作為棺木，哪個驛館飼養的豬可以用來祭祀等。郡內官吏依言前去，跟黃霸所說一言不差。黃霸的細心達到如此程度，可謂明察秋毫。不知內情的人都稱他是神明。奸邪之徒懼怕黃霸，只好去別的郡縣，潁川郡內的盜賊隨之日漸減少。
為了解民間情況，黃霸還常派官員微服私訪，並親自以平民身份，深入民間，關心百姓疾苦。有一次，黃霸想要考察民間情況，就派了一名年長廉潔的下屬秘密出行訪察。下屬依言出發，微服出訪，不敢在驛亭住宿，餓了就在路邊吃些食物，這時忽然飛來一隻烏鴉，叼走了他手裡的肉。恰巧有人要去郡衙，看到了這一幕，就對黃霸講了這件事。下屬回來後，黃霸迎上前慰勞他，說：“太辛苦了！在路上吃飯還被烏鴉搶走了肉。”下屬大驚，以為黃霸對他外出的所有情況都已知曉，所以對所問的事情絲毫不敢有所隱瞞。
教化為先
黃霸為政，教化為先，然後才用刑罰。黃霸任潁川太守時，多次頒發刑律均告之於民，達到家喻戶曉，使犯罪率大大降低。同時他還制定詳細的安民條款，規勸黎民遵章守法，勤事農桑，節約資財，並安排長輩們率領著伍長，在民間頒布施行，以教化民眾。
黃霸注重官吏的持續性，儘量避免無謂的人員更替，以求培養長期穩定工作的官員。許縣縣丞年老耳聾，督郵報告黃霸想要辭退他，黃霸不同意，說：“許縣縣丞廉潔清明，雖然年紀大了，尚能勝任接待迎送的工作，要多幫助他，不要讓有賢德的人失望。”有人請教他這么做的緣故，黃霸道：“頻繁更換長吏，送舊迎新要花費不少費用，而且奸猾小吏會乘機銷毀賬冊文書而盜竊財物，公私耗費很多，所有的這些費用都得從百姓那裡取得，換上的新官又未必賢德，甚至還不如他的前任，只會增加混亂。要他們管理政務，距離安定的局面還相差很遠。”
軼事典故
爭兒案
前漢時期，穎川郡有一家富戶，兄弟倆在一起生活，他們的媳婦都懷孕了。兄長的媳婦生了個死胎，但是一直隱瞞著不告訴別人。弟弟的媳婦生了個男孩，兄長媳婦便生了惡念，將孩子強奪過來並聲稱是自己所生。雙方各執一詞，一直論爭了三年都未能斷決。
穎川太守黃霸聽聞此事後，派人把孩子抱到法庭中間，命令她們妯娌倆上去爭奪，表示誰能把孩子搶過去，便將孩子判給誰。兄長媳婦爭奪時用力很猛，一副不管不顧的樣子；反觀弟弟媳婦，既想把孩子爭回來，又恐怕會傷著孩子而不敢使勁兒用力，表情極為悲傷。看到這裡，黃霸頓時明白了其中緣由，斥責兄長媳婦說：“你只想得到兒子，怎么會顧慮到用力爭奪會使孩子受到傷害呢？孩子是誰所生，這件事已經非常明白了。”隨即把孩子歸還給了弟弟媳婦，兄長媳婦只得認罪。
黃霸娶妻
黃霸年輕時擔任陽夏遊徼，與相士一同乘車出遊，看見一女子，看相的人說：“這女子將來肯定是富貴之人，如果不是這樣，相書將不能使用了。”黃霸就前去詢問，得知女子是鄉里巫姓人家的女兒。於是黃霸就娶她為妻，並與她白頭到老。後來，黃霸果然高居丞相之位。
史書記載
班固《漢書·卷八十九·循吏傳第五十九》
歷史評價
班固：①王成、黃霸、朱邑、龔遂、鄭弘、召信臣等，所居民富，所去見思，生有榮號，死見奉祀，此廩廩庶幾德讓君子之遺風矣。 ②自漢興，言治民吏，以霸為首。
韋曜：歷觀古今立功名之士，皆有累積殊異之跡，勞身苦體，契闊勤思，平居不墮其業，窮困不易其素，是以卜式立志於耕牧，而黃霸受道於囹圄，終有榮顯之福，以成不朽之名。
葛洪：至於寧越、倪寬、黃霸之徒，所以強自篤勵於典籍者非天性也，皆由患苦困瘁欲以經術自拔耳。
賈思勰：黃霸為潁川，使郵亭、鄉官，皆畜雞、豚，以贍鰥、寡、貧窮者。及務耕桑，節用，殖財，種樹。鰥、寡、孤、獨，有死無以葬者，鄉部書言，霸具為區處：某所大木，可以為棺。某亭豚子，可以祭。吏往皆如言。
房玄齡：是以東里相鄭，西門宰鄴，潁川黃霸，蜀郡文翁，或吏不敢欺，或人懷其惠，或教移齊魯，或政務寬和，斯並惇史播其徽音，良能以為準的。
陳普：鳳凰不一至尼山，獨為皇不少慳。圖畫紛紛上麟閣，五年宰相獨何顏。
朱元璋：古稱任官惟賢才。凡郡縣得一賢守令，如潁川有黃霸，中牟有魯恭，何憂不治。
葉盛：黃霸只是州郡之才，為宰相而事鉤距，固無如許精神，天下亦將無所容，而弊將不勝其多矣。
丘浚：後世有志於教化之君其尚以宣帝為法，有志於教化之吏其尚以黃霸為法。
王夫之：宣帝重二千石之任，而循吏有餘美，龔遂、黃霸、尹翁歸、趙廣漢、張敞、韓延壽，皆藉藉焉。跡其治之得失，廣漢、敞、霸皆任術而托跡於道。廣漢、敞以虔矯任刑殺，而霸多偽飾，寬嚴異，而求名太急之情一也。
黃宗羲：君子無斯須不學也，黃霸之受《尚書》，趙岐之注《孟子》，皆在患難顛沛中，況優遊暇豫之時乎！《易》曰：“困而不失其所，亨。”
後世紀念
南陸公紀念祠
南陸公紀念祠坐落在臨賀古城（今廣西賀州市八步區賀街鎮），是湘、粵、桂三省黃氏宗親為了紀念黃姓太始祖而建，原名“黃氏宗祠”。南陸公紀念祠建築面積為600多平方米，大廳懸掛有黃氏英賢繪像28幅，其中有西漢宰相黃霸公。
朴子黃姓宗祠
朴子黃姓宗祠位於台灣省嘉義縣朴子鎮市東路，祠堂始建於1985年，內祀九尊黃姓先祖神像，其中有漢右丞相安成侯黃霸公。
家族成員
兒子：黃賞，曾任關都尉，封思侯。
孫子：黃輔，官至衛尉九卿，封子忠侯。
曾孫：黃忠，封嗣侯，王莽當政時被取消爵位。
