在山東、河北廣大地區流傳著這樣的民謠：“問我祖先來何處？山西洪洞大槐樹。”這是說，自己的祖宗是從山西洪洞大槐樹下遷移來的。

如果接著要問：為什么遷移呢？那就得從“燕王掃王”說起了。

燕王是明太祖朱元璋的四子，名棣，領重兵鎮壓守大都（即今北京）。朱元璋長子朱標早死，朱元璋死后，根據傳長不傳嫡的傳統，朱標的大兒子朱允（火文）即皇帝位，年號建文。建文帝聽從齊泰、黃子澄等大臣建議，大力削藩，剝奪分封全國各地的叔父們的兵權。燕王以討齊、黃為名，起兵反抗，號稱“靖難”。建文帝派兵平叛。于是在河北、山東一帶，進行了長達三、四年之久的大戰。史書上稱之為“靖難之戰”，民間傳說則為“燕王掃北”。

在此期間，人民遭受戰亂的破壞和自然災害的襲擊，“村莊毀去十之八九，民僅存十之一二”，“春燕歸來無棲處，赤地千里少人煙”。史書上記載，河北這塊地方“青轔白骨”，“怵驚心目”，滿目荒涼。而山西洪洞一帶，卻無兵荒馬亂之苦，連年風調雨順，四境安寧，人民生息繁衍，一片升平景象。

“靖難”之役，以朱棣的勝利而告終。1403年，燕王軍攻占南京，建文帝于戰亂中失蹤。燕王即皇帝位，改年號永樂，是為明成祖。明成祖在歷史上是一位雄才大略的皇帝。他大力發展生產，極力恢復河北一帶經濟。永樂初年，詔令從山西“分丁于真定、南官一帶占籍為民。”于是，當時的中央政府便在洪洞縣設立一個移民機構，專門辦理移民事宜。相傳此處有一棵大槐樹。故山東、河北老百姓中有“要問祖先來何處？山西洪洞老槐樹”的說法。