開宗明義，我們首先要解決一個問題：究竟何所謂“宰相”？
我們平常所說的“宰相”，其實並不是正式的官職名稱。細查中國五千年曆史，職官稱為“宰相”的，隻有遼朝的北麵官（管理非漢族事務的係統）有南北兩府，首腦為南北宰相，除此以外，各朝各代都無宰相之官。然而雖無宰相之官，卻有宰相之名——所謂宰相，是指輔佐國君統籌大政方針的官職，而其正式官名，正不必叫做“宰相”。
宰相之名正式產生是在戰國後期，《韓非子·顯學篇》說：“故明主之吏，宰相必起於州部，猛將必發於卒伍。”宰相這種職務而非官名的正式誕生，也大致是在這個時期。夏、商時代，輔佐君主的是巫史，西周和春秋時代則是公卿，都來源於貴族，甚至可以世襲，不能算是宰相。從春秋時代開始，部分諸侯國開始設置非世襲的最高輔佐官，比如楚武王所設的“令尹”，齊桓、秦穆所設的“相”，就都是宰相的雛形。
宰的本意，是指君主的管家，而相則是指輔佐。戰國時代，各國的宰相名稱很多，比如“相邦”、“相國”、“丞相”，等等。秦始皇統一天下以後，宰相的正式名稱定為“丞相”，有時也分為左右，即“右丞相”和“左丞相”（右比左高）——後來趙高還自稱“中丞相”。
西漢初年，延襲秦製，但另設“禦史大夫”一職作為副宰相。後來漢武帝為了製約相權，起用一批儒生擔任丞相（注意，這裏是在說丞相這一職務），處理日常的行政事務，而將政務中心轉移到內廷，此後的丞相即空有其名，卻非真正意義上的宰相，而內廷的尚書台卻逐漸發展起來，成為新的政務中心。尚書台的長官叫“尚書令”，如由宦官擔任則稱“中書令”，有時還以地位較高的官員加上“領尚書事”、“錄尚書事”等頭銜負責尚書台事務，這些官職，逐漸變成了新時代的宰相。
東漢不設丞相和禦史大夫，而以太尉、司徒、司空並稱三公，作為朝臣的領袖，也即名義上的宰相。《後漢書·仲長統傳》中說：“雖置三公，事歸台閣。”所謂“台閣”，也就是指的尚書台。
東漢末年，權臣董卓、曹操等人恢複了丞相或相國的官職，後來三國時代的吳、蜀沿襲其製，都是真正名實相符的宰相，甚至往往權力更淩駕於君主之上。魏晉以後，尚書台的地位穩步上升，逐漸從內廷獨立出來，成為中央執行政務的總機關，改稱尚書省。尚書台或尚書省的長官尚書令、副長官尚書仆射，權限與秦漢的丞相相等，成為真正的宰相。尚書省既然獨立出來了，那麼內廷就另設中書省，以代替過去的尚書台，中書省的長官中書監或中書令，其實也是宰相——這時候的中書令，就不一定由宦官擔任了。此外，南北朝時候又出現了一個名叫門下省的機構，掌管機要文件，其長官侍中也可能具有部分宰相之權，北魏就俗稱這個官職為“小宰相”。
隋唐兩代設三省六部製，三省即尚書省、中書省、門下省，其長官都是宰相，副長官都是副宰相。然而宰相太多，決定難下，唐代就規定不加“同中書門下平（讀如駢）章事”這個稱號的尚書長官（主要為副官，主官不常設）和不加“同平章事”的門下長官（亦同），就不算是宰相，後來類似加稱又變成了“同中書門下三品”、“同中書門下二品”之類。同時，某些官職較低的官員，還可以通過加上“參掌機事”、“參預朝政”、“參知政事”等稱號行使宰相的職權。比如魏征，他在擔任秘書監的時候就加“參預朝政”銜，可以算是太宗朝的宰相。