劉邦撒手歸西之前，已經為兒子安排了幾任丞相的人選。呂後問他：“在你百歲之後，蕭相國也死了，讓誰來代替他？”劉邦說：“曹參可以。”高祖死後，漢惠帝即位便以曹參為相。第二年，年老的相國蕭何病重。惠帝去探望他，還問他將來誰來接替他合適。蕭何不願意表示意見，隻說：“誰還能像陛下那樣了解臣下呢？”
漢惠帝問他：“你看曹參怎麼樣？”蕭何和曹參兩人關係很好，知道曹參是個治國的人才。早年都跟隨漢高祖一起起兵，並且立了不少戰功。曹參雖是個將軍，但在高祖封他的長子齊王處做齊相時，由於他采用黃老學說的清靜無為思想治理天下，讓百姓過上安定的生活，盡可能不多去打擾他們。因此在他做齊相的九年間，齊國所屬的七十多座城都比較安定。所以漢惠帝一提到他，他也表示讚成，並說陛下的主意不錯，有曹參接替，自己死也心安了。
蕭何一死，漢惠帝馬上命令曹參進長安，接替做相國。曹參還是用原先的清靜無為的辦法，一切按照蕭何已經規定的章程辦事，什麼也不變動。有些大臣看曹參這種無所作為的樣子，有點著急，也有的去找他，想幫他出點主意，但是他們一到曹參家裏，曹參就請他們一起喝酒。要是有人在他跟前提起朝廷大事，他總是把話岔開，使別人無法開口。最後客人喝得醉醺醺地回去，什麼也沒有說。
漢惠帝看到曹相國這樣子，認為他是倚老賣老，瞧不起他，心裏挺不踏實。曹參的兒子在皇宮裏侍候惠帝。惠帝囑咐他說：“你回家的時候，找個機會問問你父親，高祖歸了天，皇上那麼年輕，國家大事全靠相國來主持。可您天天喝酒，不管事，這麼下去，怎麼能夠治理好天下呢？看你父親怎麼說。”
曹參的兒子就照惠帝的話一五一十地跟曹參說了。曹參一聽，就上火了，他罵著說：“你這種毛孩子懂得個什麼，國家大事也輪到你來問。”說著，竟叫仆人拿板子來，把兒子打了一頓。曹參的兒子莫名其妙地受了責打，非常委屈，回宮的時候當然向漢惠帝訴說了。漢惠帝也感到很不高興。
第二天，曹參上朝的時候，惠帝就對他說：“你兒子跟你說的話，是我叫他說的，你打他幹什麼？”曹參向惠帝請了罪，接著說：“請問陛下，您跟高祖比，哪一個更英明？”惠帝說：“那還用說，我怎麼能比得上高皇帝。”曹參說：“我跟蕭相國比較，哪一個能幹？”漢惠帝不禁微微一笑，說：“好像不如蕭相國。”
曹參說：“陛下說的話都對，蕭何不如高皇帝，我又不如蕭相國。高皇帝和蕭相國平定了天下，又給我們製定了一套規章。我們隻要按照他們的規定照看辦，不要失職就是了。”
漢惠帝這才有點明白過來。曹參用他的黃老學說，做了三年相國。由於那時候正處在長期戰爭的動亂之後，百姓需要安定，他那套辦法沒有給百姓增加更多的負擔。因此，當時有人編了歌謠稱讚蕭何和曹參。曆史上把這件事稱為“蕭規曹隨”。