至正二十七年，朱元璋消滅張士誠，立刻準備北伐。

此時，除了元朝的中央政權，朱元璋在江北的主要對手有三股勢力，從東到西分別是：山東的王宣父子、河南的王保保、陜甘一帶的李思齊和張思道。

在討論北伐的策略時，常遇春主張集中兵力，長驅直入，揮師直搗元都，只要拿下元都北京，各地元軍必定土崩瓦解。

朱元璋還是他一貫的穩健作風，擔心大軍在北京城下會遇到頑強的抵抗，遲遲不能得手，后方的糧草供應不及，一旦各地的元軍趕來救援，大軍必將陷入危局當中。所以他認為應該穩扎穩打，各個擊破，先向山東進軍，再取河南，然后向西占領潼關，防備陜甘方向的來敵。在此基礎之下，再放手進攻北京，水到渠成。

據守山東的王宣是揚州興化人，原本是元朝的文官，元末黃河水災，王宣主動要求回鄉治水。朝廷就任命他為淮南淮北都元帥府都事，給了他一大筆錢。王宣帶著這些錢回到揚州，募集了三萬民夫，幾月之間就完成了水利工程。當時各地兵亂，朝廷就讓王宣把手下的民夫訓練成兵士，任命他為淮南淮北義兵都元帥，王宣搖身一變，成了一員大將軍，真是做夢也不敢想的事情。

王宣帶著自己的軍隊收復了徐州，隨后前往滕州駐守，同時屯田。以后王宣的兒子王信跟隨察罕帖木兒打敗益都的田豐。那以后，王宣、王信父子都被任命為平章，鎮守沂州，不斷擴大勢力，逐漸控制了蘇北和山東南部。

至正二十六年四月，王宣占領海州，也就是今天的連云港一帶，并繼續向西南方向的宿遷等地進軍，與朱元璋的勢力產生了沖突。

按理說，在元末的亂世當中，即使王家父子不能繼續擴張勢力，起碼也能割據一方，成為亂世當中的豪強。只可惜，他們爺倆兒的命不太好，遇上了朱元璋。

至正二十七年的八月，朱元璋致信王宣，說明自己的二十五萬大軍已經在淮安集結，準備北伐，勸王宣父子早日更名、易幟，不然大軍一到，后悔不及。

徐達率軍進駐淮安以后，再一次勸降，王信表示愿意歸順，朱元璋任命他為榮祿大夫、江淮行中書省平章政事，聽從徐達的節制。

同時，朱元璋密令徐達，不可輕信王宣父子，繼續向沂州進軍，如果他們閉門堅守，立刻進攻。如果他們開門迎降，就把他們父子和將領、家屬送往淮安，留下兩個軍衛鎮守沂州。山東另外幾個重鎮濟寧、濟南、益都等地，每處留下一萬大軍和五千山東的人馬，共同守衛。同時，在王氏的軍隊中挑選精銳的兵馬，跟隨大軍北伐。剩下的人馬不要遣散，派往徐州等地。

顯然，朱元璋是吃定了王宣父子，吃定了山東，無論投降與否，按照朱元璋的處事風格，他們的結局都不太妙。

這期間，王宣派兒子王信到莒縣、高密等地招募軍隊，一邊派人與明軍周旋。徐達果斷命令明軍圍攻沂州，王宣支撐不住，打開西門，獻出印信。徐達派使者勸降王信，王信殺死使者，逃往山西。徐達大怒，對王宣施以杖刑，并將其處死。

隨后，徐達揮師殺向益都，也就是現在的山東青州。益都的守將被稱為老保，姓李，也叫保保，當初跟隨察罕帖木兒起兵，攻取山東。察罕死后，老保跟隨察罕的干兒子王保保一起打下益都，升任平章政事，負責守衛益都。

老保頑強抵抗，明軍攻入城中，生擒老保等人，隨后明軍順利打下濟寧、濟南等地，不到兩個月，山東幾十城盡歸朱元璋。

朱元璋反復提醒徐達、常遇春千萬小心，指示他們把投降的將領和有才干的文人全部送往南京，不許留在軍中，以免后患，至于他如何處置這些將領，不得而知。

在益都被俘的老保也被送往南京。明軍打下河南之后，朱元璋前往開封，帶著老保同行，并派他去勸降王保保。這是明軍一貫的作法，有點陰損，就是經常讓一些降將充當勸降的使者，這種差事的風險極大，弄不好就會丟了性命。

老保就是這樣，見到王保保之后，被王保保用毒酒毒死。