秦朝的天下并沒有像秦始皇所期望的那樣維持“二世三世至于萬世，傳之無窮”，就在他去世的第二年（秦二世元年，前209年），陳勝、吳廣在大澤鄉（今安徽宿州市東南）揭竿而起，勢如燎原的大起義敲響了秦朝的喪鐘。

公元前206年，劉邦、項羽的軍隊先后進入咸陽，秦朝滅亡。項羽成為天下霸主，將秦朝國土分封給各路諸侯，劉邦被封為漢王，封地在今漢中盆地和四川盆地。不久劉邦就起兵攻下關中，與項羽爭奪天下。

經過三年多的苦戰，劉邦在公元前202年（漢五年）初發動垓下（今安徽靈璧縣東南）之戰。西楚霸王項羽面臨四面楚歌的絕境，突圍至烏江（今安徽和縣東北）自殺。劉邦在汜水北岸（今山東定陶縣南）即皇帝位，國號漢（后世稱為西漢），定都洛陽，但不久即遷都關中。由于咸陽已成廢墟，只能在今西安市西北一個名長安的聚落一帶另建新都。朝廷暫駐秦國故都櫟陽（今陜西西安和臨潼區東北），長安建成后遷入。

西漢初的疆域與秦朝相比縮小了很多。北方的匈奴在冒頓單于的統率下，往東并吞了東胡，向西占據了黃河以西地區，進而趕走月氏和烏孫，使西域大部分國家不得不服從它的統治；向南不僅奪回“河南地”（河套及其以南地區），而且一度推進到今陜西、山西的北部。

公元前200年，漢高祖劉邦親率大軍出擊，結果在平城（今山西大同市東北）以東的白登山被冒頓圍困了七天，派人向冒頓的妻子送了厚禮才趁機突圍。漢朝缺乏對付匈奴的軍事實力，只得采取“和親”政策，將皇族女子或選來的民女冒充公主嫁給單于。但匈奴的侵擾并沒有停止，它的一些部族駐地離漢朝首都長安只有700里，輕騎兵一晝夜即可到達。

東南原閩中郡境內的越人君長在秦末恢復自立，并起兵助漢。漢高祖五年（前202年），閩越首領無諸被立為閩越王，在今福建以閩江下游為中心建立了閩越國，都東冶（今福州市）漢惠帝三年（前192年）封勾踐后人搖為東海王，以東甌（今浙江溫州市）為國都，所以又被稱為東甌王。這兩個政權表面上服從漢朝，實際上并不受約束。朝廷面臨內外敵對勢力，無暇旁顧，只能容忍。

嶺南原來擔任秦朝龍川縣（治所在今廣東龍川縣東）令的中原人趙佗，在秦末代理南海郡的尉（軍事長官）。秦亡后，趙佗起兵并吞了南海、桂林、象郡，在公元前206年自立為南越王。大約在公元前181年前后，南越滅安陽王，將轄境擴展到今越南北部和中部，直到北緯13度的今巴江一帶。

漢高祖十一年（前196年），派陸賈同使南越，封趙佗為南越王。趙佗雖然接受了漢朝的封號，不再自稱皇帝，但依然保持著獨立地位。在西南，隨著秦朝的解體，已經在云貴高原設置的行政機構也撤到四川盆地，西漢初期一直未能恢復。