到了宋朝，情況又有所改變，三省長官都不參與大政方針的決定，都不是宰相，另外設置內中書省，以“同中書門下平章事”作為宰相的正式名稱，“參知政事”為副宰相的正式名稱。元豐改製以後，稱號變得極其混亂，比如尚書左仆射兼門下侍郎、尚書右仆射同中書門下平章事，等等，甚至一度恢複了左右丞相的官職。
遼代官職分管理漢人事務的南麵官和管理契丹等民族事務的北麵官，很少有統籌全國的君主輔佐，所以並沒有真正意義上的宰相，勉強說起來，南北院大王都可以算是半個宰相。金代以尚書令、左右丞相和平章政事為宰相；西夏以國相為宰相；元代則以中書省的左右丞相、平章政事為宰相，左右丞、參知政事為副宰相。
明朝一開始沿襲元製，後來朱元璋廢丞相之職，也等於廢除了宰相之位，大政方針都由皇帝一把抓。不過這種局麵終究無法長久，皇帝也不可能事事躬親，原本的顧問官即文淵閣大學士職權範圍日益擴大，仁宗洪熙朝以後逐漸演變為新的宰相。不過明朝閹宦橫行，宰相職權經常被司禮監秉筆太監所篡奪。
清朝前期基本沿襲明製，到了康熙朝，加“南書房行走”名號的才是真正意義上的宰相，雍正朝設軍機處總領政務，此後“軍機大臣”就變成了宰相。
拉拉雜雜講了那麼多，隻是想說明一個問題，即宰相是一種職務，而非正式官名，曆代掌宰相職權的官職，沿革變遷，非常複雜。《曆代宰相錄》整理了近七百位宰相，但其實這些宰相中，可能還有一些雖有宰相之名，卻並沒有宰相之實的。“同中書門下平章事”、“文淵閣大學士”的稱號也往往授予一些德高望重的老臣，但其實他們大多七老八十，根本就不管事了。
隻有真正輔佐君主，進行大政方針統籌的，才能被稱為宰相。漢文帝曾經詢問右丞相周勃：“全天下每年處理多少案件？”周勃回答說不知道。文帝又問：“全天下每年錢糧收支是多少？”周勃還說不知道。文帝不滿意了，改問左丞相陳平，陳平回答說：“這些問題，各有所司，陛下請去詢問延尉和治粟內史吧。”表示宰相根本就不該負責具體事務。漢宣帝的時候，邴吉為丞相，出門看見路上有鬥毆而死的人，問都不問，看到有頭耕牛氣喘籲籲，倒急忙下車來查看。從屬問他為何輕人重畜，他回答說：“老百姓鬥毆，自有長安令、京兆尹等地方官來管，宰相是不管這些小事的。現在還是春天，氣候不會太熱，可是這頭牛卻不停地喘氣，我恐怕是天氣有所反常。身為宰相，當然要管調和陰陽，總攬全局嘍。”
這說明宰相有可能偶有兼職，但長時間負責具體事務的，未必是真宰相。而且宰相並不一定是朝臣名義上的領袖（但肯定是實際上的領袖），真正資格老、威望高、官位也高的，其實倒未必是宰相。尚書令最初品級很低，大學士最初不過七品，而且一直到明朝終結也還不是一品。清朝倒是正經把大學士列為一品了，然而沒多久大學士也被從宰相的位置上扒拉了下來。
有宰相之名卻無宰相之實的朝臣都有哪些呢？比如東漢時代，朝臣名義上的領袖是三公，也即太尉、司徒和司空，但實際掌握政權的往往是大將軍，大將軍是武職，是全國武裝部隊總司令，有他需要具體負責的事務，所以如果大將軍不加上“錄尚書事”，兼任尚書台也就是內朝的首腦，他和三公相同，都不能算是真正意義上的宰相。
權傾朝野，淩駕於君主之上，雖名為宰相，實際幹的事情和皇帝沒區別的家夥也必須排除掉。比如漢朝末年的宰相是誰？從官位上來考慮，可以有兩個備選，一是丞相曹操，一是尚書令荀彧。然而曹操是當然的權臣，他這個宰相和帝王毫無區別，真正要說漢帝國宰相的（當然所謂漢帝國當時也是空架子），隻能是荀彧。還有，很多朝代高級宦官實際上侵奪了相當一部分宰相職權，比如明朝中後期的司禮監秉筆，但就嚴格意義來說，宦官不算朝臣，宦官掌握宰相職權雖不罕見，在製度上卻是特例，也不能夠算是真正的宰相。