北海市歷史悠久，文化遺存豐富。從考古發掘出的新石器時代器物中可以反映出，北海的先民在距今數千年前就開始以“舟楫為家”，耕海為生的海洋活動。

西漢元鼎六年（公元前111年），漢武帝平南越，劃出南海、象郡交界地方置合浦郡，同時設合浦縣。合浦縣轄地為今北海全域、欽州、防城港和廣東廉江的部分地區。從那時開始算起，有記錄的北海信史有2100多年。

唐武德五年（622年），合浦郡改稱越州。唐貞觀八年（634年），越州改稱廉州。天寶元年（742年），廉州改稱合浦郡。乾元元年（758年）復稱廉州，駐地在合浦縣城。

宋元明清民國時期，合浦建制多次改動，管轄區域變化不大。

1949年新中國成立后，合浦縣隸屬廣東省欽州專區，1951年5月10日將合浦縣轄的東鎮、西鎮、高德鄉、潿洲鄉設北海市。1958年將北海市和浦北縣并歸合浦縣，屬廣東湛江專區。1965年再屬廣西欽州地區。1987年7月合浦縣劃歸北海市管轄。

北海是著名的漢代海上絲綢之路的始發港?！稘h書·地理志》明確記錄，搭載著黃金和各種中原絲綢制品的船只從合浦出發，遠航越南、緬甸、泰國、印度，斯里蘭卡、印度尼西亞等國家和地區，進行友好訪問和對外貿易活動，換回大量的珍珠瑪瑙、玉石琉璃等奢侈品。

北海的名勝古跡非常豐富。有紀念漢朝還珠太守孟嘗的海角亭、有宋代大文豪蘇軾曾經居住過的清樂軒舊址東坡亭、香火鼎盛的東山寺、歷經千年的廉州府學，還有合浦南郊的漢代文化博物館，徜徉其間有一種穿越時空的感悟。而合浦山口鎮國家級紅樹林生態保護區旁的烏坭古珠池是七大古珠池中唯一存名存址，明確可考的千年珠母海。