1883年農(nóng)歷九月初八，閻錫山出生于山西五臺(tái)河縣河邊村一個(gè)以經(jīng)商為主的小地主家庭。閻錫山祖父閻青云經(jīng)商有道，積累了家底，其父閻書(shū)堂更是14歲便輟學(xué)經(jīng)商，開(kāi)了家“吉慶昌”商號(hào)，自己做掌柜。閻錫山的母親曲月清在生他之前，夢(mèng)見(jiàn)自己游覽五臺(tái)山的大孚靈鷲寺，還從寺中抱出了一個(gè)男孩，之后不久便生了閻錫山。因這段典故，閻錫山很得祖父閻青云的喜愛(ài)，認(rèn)為這是個(gè)貴子，因而為閻錫山取乳名“萬(wàn)喜”，閻錫山本人也因此多次去大孚靈鷲寺上香。

閻錫山5歲時(shí)，母親曲月清身染重病，不久去世。其父閻書(shū)堂不久便續(xù)弦，但女方答應(yīng)續(xù)弦的前提條件是“不養(yǎng)前家子”，所以閻錫山被送到外祖母家生活。因寄人籬下，閻錫山自小性格就沉默寡言，躁靜不定，頑皮難馴。

閻錫山6歲的時(shí)候被外公送入了小堡公立私塾，進(jìn)行啟蒙教育，啟蒙老師叫曲溫，先后教閻錫山學(xué)習(xí)了《三字經(jīng)》、《百家姓》等啟蒙讀物。曲老師對(duì)他十分賞識(shí)，說(shuō)：“此子異于常童”，“先一日所教者，翌晨多能背誦”。祖父閻青云因此對(duì)閻錫山寄予厚望，決定親自撫育。

3年之后，閻錫山被祖父接回，進(jìn)入閻青山自己設(shè)立的大堡義塾，師從當(dāng)?shù)孛麕熐久鳎瑢W(xué)完了四書(shū)五經(jīng)等舊學(xué)。曲先生教學(xué)極嚴(yán)，閻錫山因性格頑劣，經(jīng)常挨打，同窗因此還編了一首順口溜給他：“萬(wàn)喜子，挨板子，雙手腫成氈片子，頭發(fā)扭成一卷子，鼻涕掉了兩管子，褲襠滴出尿點(diǎn)子，草包從此露餡子。”

5年之后，14歲的閻錫山便輟學(xué)回家，隨父親到自家開(kāi)設(shè)的錢(qián)鋪學(xué)習(xí)經(jīng)商，參與放債收息及金融投機(jī)，學(xué)到了許多經(jīng)濟(jì)學(xué)的知識(shí)。由于繼母一直無(wú)出，家中希望閻錫山盡早成家，便在這一年張羅著為閻錫山娶了徐竹青為妻。14歲的閻錫山在懵懂中成為了一家之主。

1900年，閻書(shū)堂的錢(qián)鋪倒閉，閻錫山隨父躲債，流落太原。為了生計(jì)，他四處打工，給客棧當(dāng)?shù)陠T。

1902年，閻錫山參加了山西武備學(xué)堂的招生考試，并被錄取。在接受了初步軍事教育后，他被官費(fèi)保送到日本留學(xué)，進(jìn)入日本士官學(xué)校學(xué)習(xí)。在資產(chǎn)階級(jí)民主革命思潮的影響下，閻錫山于1905年10月加入同盟會(huì)，會(huì)見(jiàn)孫中山，并參與制訂了同盟會(huì)“南響北應(yīng)”的戰(zhàn)略決策。

不久，閻錫山又遵照孫中山的指示，聯(lián)合同盟會(huì)中學(xué)習(xí)軍事的李烈鈞、程潛等28人成立鐵血丈夫團(tuán)。辛亥革命時(shí)，這群人是各省起義的主要軍事領(lǐng)導(dǎo)者。

1909年，26歲的閻錫山從日本士官學(xué)校畢業(yè)回國(guó)，任山西陸軍小學(xué)堂教官、監(jiān)督。當(dāng)年11月，他奉召赴京參加陸軍部舉辦的留日歸國(guó)士官生會(huì)試，考列上等（分優(yōu)上中三等），成為陸軍步兵科舉人并被授予協(xié)軍校（相當(dāng)于少尉）的軍銜。閻錫山在幾個(gè)月之內(nèi)即升任山西新軍第四十三協(xié)第八十六標(biāo)教練官與標(biāo)統(tǒng)（相當(dāng)于上校團(tuán)長(zhǎng)）。自此之后，閻錫山一面致力于訓(xùn)練新軍，培植干部；一面成立“俱樂(lè)部”，結(jié)交革命黨人，宣傳革命。

辛亥革命爆發(fā)后，在太原的同盟會(huì)員密謀響應(yīng)。1911年10月28日，閻錫山等同盟會(huì)員率軍起義，起義軍攻入城內(nèi)，殺死山西巡撫陸鐘琦，成立軍政府，公推閻錫山為都督。后來(lái)孫中山視察太原時(shí)曾說(shuō)：“去歲武昌起義，不半載竟告成功，此實(shí)山西之力，閻錫山君百川之功……倘非山西起義，斷絕南北交通，天下事未可知也。”

自此，閻錫山正式在政治舞臺(tái)上嶄露頭角。