陳希增“工為文,嫻掌故,有治事才”。督理學政時,對下屬、士子,嚴格要求,嚴禁舞弊,懲惡導善,獎勵才幹。因此,“士畏其嚴而仍樂其寬”。在工部、戶部任職時,對人員的選拔任用和監督審查,都十分謹慎。擔任侍郎後,雖位居二品,仍虛懷若谷,使部屬得以人盡其言。任國史館副總裁時,將本朝大臣之政績,謄錄副本,時時覽閱作為自己的借鑑。還將編入《四庫書目》中江西籍人士的著作集成冊,予以珍藏。
陳希增出身名門望族,為陳道(1707-1760,字紹洙,號凝齋,清代文學家、理學家)曾孫。民國《江西通志》記載:“清進士陳道,子守中、守譽,乾隆年間同舉鄉試,孫觀、用光、椿冠,曾孫希祖、希曾、蘭祥,乾嘉道年間,一門七進士,九鄉榜,為邑之冠,稱望族”。兄陳希祖(1767-1820,一作1765-1820,字敦一,又字稚孫,號玉香,更號玉方,一作玉芳),乾隆五十五年(1790)進士,官御史。清代學者、著名書法家。子陳孚恩(1802-1866,字子鶴,號少默,別號紫藿),歷任六部侍郎、五部尚書,官至軍機處章京(宰相)。