麵對這種南有北齊，西有突厥的局麵，分歧，在契丹族內部產生了：有一部分契丹人，為了躲避戰禍，選擇了向東遷徙；留在原地的契丹人，因為沒有抵抗的能力，終於被突厥納入統治範圍之內。自此，契丹族分化成三個大部分，一部分為北齊“分置諸州”的俘虜；一部分東遷；還有一部分受突厥統治，由可汗設官管理。
50年後重相聚：麵目全非的契丹八部
在此後的半個世紀裏，契丹部落經過了一個從分散到聚合、改組的過程。長期的戰爭，使得分散的各部落認識到，單純依靠各自的力量，是無法維持本部落的生存的，隻有聯合起來，才能與外族抗衡和“寇抄”近鄰的財富。正是由於外部的壓迫，促使契丹民族團結起來，正式組成了“部落聯盟議事會”。
隋朝統治時期，契丹族開始有了新的變化。按《隋書·契丹傳》記載：“開皇末，（契丹）部落漸眾，遂北徙，逐水草。……有征伐，則酋帥相與議之，興兵動眾，合符契。”隋末唐初的契丹人正在經曆著“親族部落間的聯盟”的曆史發展階段，這種親族部落間的聯盟“常因暫時的緊急需要而結成，隨著這一需要的消失即告解散”。
他們的發展經過，史料並沒有留下直接的記載，隻是從隻言片語中可以看出，從6世紀中葉開始，周圍的強大鄰人北齊、突厥先後發動了對契丹的進攻，給了他們沉重的打擊，把他們打得四散。
防禦外來侵略的要求，顯然是促使他們聯合起來的一個重要因素。契丹八部從分散活動走向初步的聯合，並沒有什麼困難。因為按照一般慣例，互為兄弟的親屬部落，本來就比較容易在對外作戰中相互支援；一旦客觀條件成熟，共同推選出酋長來聯合各部對外作戰，是極其自然的事情。在今天看來，這隻是在部落組織的發展史上向前邁進了一小步，但是對契丹族人來說，走到這一步，卻是經曆了漫長而艱難的醞釀。不過，他們並沒有在這種鬆散聯盟階段多作停留，當契丹人嚐到了聯合作戰帶來的甜頭，而外部條件又要求他們增強這種聯合力量獲取更多利益的時候，這個暫時的鬆散的聯合迅速地進一步發展成為固定的永世的聯盟。
曆史的車輪轉到了公元6世紀末。隋文帝楊堅南征北戰，終於結束了中國的分裂局麵，在中原地區建立起一個統一的政權。那些當年被北齊俘獲，而分置到營、平各州的契丹人，看到了南方政權的強大與穩定，認為應該是一棵可以依靠的好乘涼的“大樹”，於是部落首領莫賀弗派使臣到隋，表達臣服之意。有人主動來歸附，這是多麼及時地宣揚國威的事情啊。隋文帝感到麵子十足，當然是快樂得不得了，所以不但對這次內附表現出極大的熱情，舉朝迎接，還立刻封了莫賀弗為大將軍，更是滿口答應了契丹人的內附請求，特許契丹人回到原來的居住地，繼續在白狼山東北部生活。於是，就在這一年，契丹舉族內遷。
受此鼓舞，不久，東遷的萬餘家契丹部眾，也舉族遷徙，內附於隋。隋朝政府自然以同樣的熱情接納了他們，同樣也讓其回到了原居住地，與從北齊回來的契丹部彙合。
幾年之後，一直受突厥統治的4000餘家契丹人，也脫離了突厥的控製，回到白狼山東北。但是這批人的回歸，卻沒有前兩批兄弟那麼幸運。當時的隋王朝非常清醒，知道自己的北部防線並不牢靠。對於北部最大的威脅——突厥，隋朝選擇了守勢，盡量避免發生正麵的軍事衝突。因此，隋文帝非常擔心契丹的回歸，會影響並不穩固的和平局麵。於是，文帝下令，賜給這4000家契丹人糧食供給，但讓他們重回突厥的統治區內，並作勢修書一封給突厥可汗，為契丹人求情，請求可汗不要因其叛離而予以懲治。
但是，契丹民眾的統一之心，完全沒有因隋朝的拒絕而動搖。從突厥統治區回到故地的契丹人拒絕再次離開自己的族人，隋王朝最後也隻能妥協。於是，在開皇末年曆盡劫難的契丹諸部再次團聚在一起。
近半個世紀的分離，使得分散在三處的契丹族人再次相聚時，族內諸部的名稱，已經與從前有了很大的不同。可以確定的是，此時的八部成員絕不會與古八部完全相同。這時的契丹八部，是在累遭強鄰攻擊，成員多次被掠、遷徙，部族嚴重受創後出現的，就像曆史上說的，他們已經“部落離散，非複古八部矣”。