朱元璋建立明朝后，效仿古制，設立了宰相制度，李善長、胡惟庸先后擔任宰相。洪武十三年，胡惟庸案爆發，朱元璋意識到宰相位于一人之下，萬人之上，權力太大，對皇權造成極大的威脅，于是廢除了宰相制度，由皇帝直接領導六部。朱元璋是一位親政的帝王，他精力充沛，即使沒有宰相，也能讓明朝各機構正常運轉。朱棣登基后，由于朱棣常年南征北戰，沒有足夠的精力處理朝政，于是需要成立一個幫助皇帝處理政務的特殊機構，此時，便誕生了內閣。

朱棣創造了明朝內閣，對明朝歷史產生深遠影響。第一批進入內閣大臣，有7個，分別是：解縉、楊士奇、楊榮、黃淮、胡廣、胡儼、金幼孜。這7人都是當時的飽學之士，平時幫朱棣處理日常的政務，他們類似于宰相，和宰相不同的是，內閣只有議政的權力，最后的決策還是得皇帝批準。這7人中，因為黃淮專門負責制敕（皇帝的重大詔令），所以，黃淮被史學界認為是明朝的第一任首輔。

眾所周知，論名氣，“明朝三代才子”之首的解縉、明朝“三楊”的楊士奇、楊榮都是一時人杰，黃淮能夠擔任內閣首輔，可見黃淮有過人之處。

黃淮，溫州永嘉人，在朱元璋建立明朝的前一年，黃淮出生。當時溫州在東南梟雄方國珍的控制之下，黃淮的父親為了避禍，隱居山中，用心教導黃淮讀書。黃淮少年聰穎，5歲就能寫詩，洪武三十年，31歲的黃淮進京趕考，一舉考中進士（春榜二甲第五名），朱元璋看了黃淮的試卷后，對名將耿炳文說：“黃淮的才華，恐怕不在他的老鄉宋濂之下。”因此，賜黃淮為中書舍人，時常讓黃淮發表自己的政見。

朱元璋駕崩后，建文帝登基，黃子澄建議削藩，黃淮認為不妥，建文帝最終選擇重用黃子澄而冷落黃淮。四年之后，朱棣登基，聽聞黃淮早年曾反對削藩，因此召黃淮入朝。當時朱棣剛登基不久，靖難之役后國家出現很多問題，黃淮針對這些問題給朱棣提出一系列的建議，每條建議都非常合適，被朱棣重用。朱棣經常邀請黃淮入宮問政，二人時常聊到深夜。

朱棣成立內閣，7位才華出眾的大臣同時入選，朱棣雖然欣賞解縉的才華，欣賞楊士奇的睿智，但讓然讓黃淮任首輔。不過，黃淮雖然是明朝第一位內閣首輔，但他在首輔任上只干了3個多月，不久就被調到翰林院編修。

朱棣登基后，面臨最大的困擾就是太子人選，因為嫡長子朱高熾身材肥胖，而且略有殘疾，次子朱高煦和朱棣非常相像，并且在“靖難”中立下赫赫戰功。所以，朱棣非常猶豫。黃淮和解縉等都是傳統的儒生，他們都支持嫡長子繼承制，因此，在朱棣詢問二人的意見時，黃淮和解縉不約而同的建議“立長”，朱高熾成為太子之后，黃淮也成了太子黨的核心成員，但這遭到了漢王朱高煦的記恨。

永樂十二年，朱棣親征回京，太子朱高熾迎駕來遲。朱高煦向朱棣進讒言，說朱高熾和支持太子的大臣們根本沒把皇帝放在眼里。朱棣龍顏大怒，將黃淮、楊溥、蹇義三位太子黨核心成員全部問罪，關押到錦衣衛詔獄。這一關，就是10年。在明朝，進了詔獄的人，能夠活著出來的可能性極小，但這三人都扛了過來，黃淮在受刑的過程中，沒有說太子一句壞話，讓朱棣非常佩服，朱棣下令善待黃淮，因為朱棣隱約覺得，自己百年之后，黃淮定能成為太子的心腹大臣。

10年后，朱棣駕崩，朱高熾繼位，是為明仁宗，黃淮終于出獄，官復原職。黃淮在明仁宗、明宣宗時期，夙興夜寐，為明朝操碎了心，是“仁宣之治”的主要功臣之一。

明宣宗時期，黃淮以70歲高齡擔任會試主考官，明英宗正統十四年，黃淮病逝，享年83歲，壽終正寢。黃淮生于元朝末年，從洪武三十年入朝，到明英宗時期病逝，歷經洪武、建文、永樂、洪熙、宣德、正統六朝，他治事果斷，為人通達，為一代名臣。