在今山西太原西南有一個地方古稱“晉陽”。傳說此地曾是夏朝的都城；商代之時又成為古唐國都城。古唐國姓祁姓，開國君主是帝堯的後代。唐人後來將都城南遷至今山西冀城西。西周政權建立後，唐人不恭王命，聯合戎狄與西周搞對抗，周成王便出師滅亡了古唐國。
後來周成王將弟弟叔虞封在唐國故地，國號仍為“唐”。叔虞的兒子燮父為了將姬姓唐國與祁姓的古唐國區別開來，便以古晉水為名，將國號改為“晉”。
周成王在封建唐國時把屬於鬼方（赤狄前身）族隗姓的九個大宗和部分殷商遺民遷徙到唐，用來充實國家人口。唐國故地本就是華夷混居之地，現在又加入了周、鬼方和商民，因此成為人口成分極複雜的國家。
晉國是西周千裏京畿之內的甸侯之國，肩負著阻止北狄南侵的重要使命。晉國公室與王室關係密切，晉軍經常追隨周王征戰四方，晉國的國家地位也高於一般諸侯。
從燮父到晉靖侯曆經五代君主，這期間的曆史已經無從可考。晉靖侯十七年，周厲王出逃彘地，西周開始實行“共和製”。
晉靖侯七年（BC805），王室軍隊在鳴條山（中條山）被條戎擊敗，隨同作戰的晉軍也遭受了不小的損失。這一年太子出生，晉靖侯為了牢記戰敗的恥辱，為太子取名為“仇”。
晉靖侯十年（BC802），晉軍在千畝之戰中擊敗西戎。晉軍舉行了隆重的凱旋儀式，這一年晉靖侯的次子出生，他為了紀念本次勝利，為次子取名為“成師”。
晉大夫師服說：“君侯給兒子起名的方式真是太奇怪了！名表示道義，道義產生禮儀，禮儀規範政事，政事端正民風；所以以正治國人民就服從，否則就產生動亂。古語說‘嘉偶為妃，怨偶為仇’。現在太子叫仇，他要仇視誰呢？弟弟叫成師，名子大得可以稱君；這恐怕在昭示禍亂了吧？哥哥恐怕要被兄弟廢替了吧！”
晉靖侯在位二十七年去世。在大喪期間，晉靖侯的兄弟殤叔驅逐太子仇自立為君。殤叔三年，周宣王去世，周幽王即位。
殤叔因為得位不正，所以他采取的統治手段也十分殘酷。四年，太子仇卷土重來，在支持者的幫助下殺死殤叔奪回君位，是為晉文侯。
晉文侯十年，鎬京被西戎攻陷，周幽王被殺。晉文侯與衛武公、鄭桓公、秦襄公出師救亡，將犬戎趕出鎬京。西周東遷時，晉軍一直不離周平王左右，將天王和周人安全護送到成周。周平王為了表彰晉文侯為王室做出的巨大貢獻，把河西部分之地封給晉國。如此一來，晉國的版圖便首次越過黃河。
晉文侯在位三十五年去世，太子伯即位，是為晉昭侯。
晉國在立國後有過幾次遷都經曆，晉人為了躲避強敵曾將國都遷曲沃（古曲沃在今聞喜縣東北），後來又遷到絳。
曲沃做為晉國故都，它的城市規模大於絳。人們將這種情況稱之為“耦國”，即一國兩都的意思。曲沃在晉國的戰略地位相當於製邑在鄭國的地位，因此曲沃一直處於公室的直接控製之下，從來沒有被封給大臣。