三井越後屋（即今日的三越）是由伊勢國松阪市的商人三井高利所創辦的。當時他採用了小量商品販賣以及薄利多銷等創造性的商業手法，獲得了巨大的成功。此後，財團為江戶幕府提供金融匯兌服務等，漸漸成為幕府的御用商人，發展成為日本首屈一指的富豪。
在江戶時代末期，三井財團也和其他商團一樣受到政治動盪的影響，但在進入明治時期後依然保持了發展的趨勢。
明治以後
財團聘用了三野村利左衛門、益田孝、中上川彥次郎等經營人才，逐漸走上了近代化經營的道路。
1876年，三井銀行和三井物產創立。此後，財團不斷擴大產業領域，進入了紡織業、採礦業和機械製造業等行業。1909年，成立三井合名會社。當時已經成為日本規模最大的財閥。
第二次世界大戰結束以後，美國對日本實行接管的GHQ發布了財閥解體的命令，因此，三井財閥也被迫解體。
當代（二戰後）
三井財閥與日本其他大財團一樣，建立了龐大的產業集團。但是相對於三菱集團、住友集團，三井集團較為鬆散，也包含如豐田汽車、東芝電器等獨立性較強的公司。2001年，三井集團的核心企業櫻花銀行與住友集團的核心銀行住友銀行合併，成立了三井住友銀行。從此在金融行業誕生了三井住友金融集團。在其他一些領域，原三井財閥的公司也與住友財團的公司積極展開了合併或者合作的活動。如日本最大的海運公司商船三井就是由原住友集團的大阪商船與三井財閥的三井船舶於1964年合併而成。
