1635年，德川幕府頒布《武家諸法度》，正式規定：幕府統治下的大名們每年需要在規定時間內到江戶城向將軍述職，並且履行服兵役的義務。大名的家眷長時間居住在江戶城內。大名晉見德川將軍稱之為“參勤”（或參覲），大名返回領國稱之為“交代”。由此，參勤交代製度正式形成。在二百六十多年的德川幕府時期，除去在第八代將軍德川吉宗時期，因為國家財政困難“修正執行”了一段時間以外，基本按照最初的法令規定執行了下來。
源起鐮倉
參勤交代並不是從德川幕府時期才出現的新生事物，早在鐮倉幕府大將軍源賴朝“天下草創”時期就已經出現了這一體製的雛形。鐮倉幕府初期，武士階級掌握國家實權以後，鐮倉幕府提出了“禦家人製度”：在鐮倉時代，由於武家建立統治的需要，武家棟梁和下級武士之間逐漸建立起一種類似於主仆性質的關係。將軍允許下級武士繼續享有原來的領地，這些領地稱之為“本領”，對本來沒有領地的武士，將軍根據他的戰功賜予他新的土地，這些地稱之為“安堵”，依靠“本領安堵”這種土地所有權賜予的恩德，將軍和下級武士之間建立了“禦恩”和“奉公”的關係。作為對將軍的回報，武士對將軍承擔一部分義務，在和平時期，承擔一些諸如“京都大番役”、“鐮倉番役”等大都市的守備工作，以及承擔禦所和寺社營建的費用（比如關東禦公事等）。在戰爭時期，武士要效忠將軍奮勇殺敵，而參勤交代的起源也正是禦家人對鐮倉大將軍的服務。
在戰國時期，各戰國大名之間戰爭不斷，社會動蕩不安。戰國大名們因為戰爭的頻繁，為了在召集人馬時少生波折，遂在自己的領地周圍建起了一些名為“城下町”的一些中小型城市，讓自己的將士們攜家眷住在裏麵，這樣一來，一方麵加強了自己府邸的保衛，另一方麵在戰時也能夠迅速召集人馬。有著“第六天魔王”之稱的織田信長有著兩支引以為傲的機動部隊，一支是騎兵部隊“馬眾”，另一支是自己的衛隊親兵“小姓眾”。織田信長為他們修築城下町作為長期居住之所，戰時招之即來，來即能戰，在織田信長稱霸全國的戰爭中立下了汗馬功勞。到了豐臣時期，豐臣秀吉沿襲了以往的做法，在自己的領地大阪城周圍修築了城下町給服從於自己的大名的家眷居住，並規定大名們一年參勤一次。就這樣，參勤交代製度逐漸建立起來。
將軍的“生死符”
德川家康實現“江戶開幕”以後，為了防止大名們起兵謀反，遂處心積慮地利用參勤交代製度削弱大名的力量。先是將所有的大名按照臣服的時間順序以及家族門第親疏分為親藩、譜代、外樣三個級別，每種大名的每年一度在江戶地區述職的時間各不相同，參勤交代主要也是防範外樣級別的大名。