陶謙為了讓劉備能死心塌地地為自己工作，就給他增加軍隊，讓他駐守在小沛，替自己阻擊曹操。
陶謙還向朝廷上表推舉劉備為豫州刺史，從此以後在很長的一段時間裏，大家都稱呼劉備為劉豫州。
劉備當上豫州刺史之後，總算是步入了封疆大吏的行列。雖然他隻能指揮豫州的一個沛縣，但是好歹也算得上是個名義上的封疆大吏、省部級的高官了，這一年劉備34歲。
劉備在小沛駐紮沒有多久，陶謙就因為擔憂和氣憤，還有其他的原因，病得越來越嚴重，最後一病不起。
彌留之際的陶謙，考慮到自己的兩個兒子非常平庸，根本沒有能力接自己的班。劉備現在又帶領很多軍隊駐紮在自己附近，自己手下的將領又沒有一個人是劉備的對手。曹操和袁術又一直威脅著徐州，徐州的老百姓又都十分支持劉備，所以陶謙決定讓劉備來接自己的班做徐州牧。
他覺得隻有這樣做才可以保護好徐州，保護好自己的家人，因此他特意對自己別駕（州刺史的佐吏）糜竺說：“我死之後就讓劉玄德（劉備）接替我做徐州牧，也隻有他能能夠讓徐州安定。”
糜竺完全傾心於劉豫州，糜竺對劉備的仁義之風和禮賢下士的行為是非常欣賞的。他認為劉備這個人以後一定會發達，自己跟著他一定可以在亂世中得到更好的發展。
所以他早就想讓劉備接任徐州牧了，就算陶謙沒有讓劉備接班的打算，糜竺也是打算全力支持劉備接任徐州牧的。
所以陶謙剛去世沒有多久，糜竺就按照陶謙的遺願率領著徐州的很多官員一起到小沛迎接劉備做徐州牧。
因為糜竺這個人是徐州當地的大富豪，很有勢力，家裏有一萬多名下人。在徐州也是個舉足輕重的人物，所以他這一帶頭，徐州本地的很多有頭有臉的人物就都跟著他一起去了小沛迎接劉備。
可讓他們沒有想到的是，劉備麵對這樣一塊從天上掉下來的大餡餅，卻直接推辭了。
劉備之所以推辭，一是禮節性的推辭，二是因為他的顧慮很多，他覺得自己如果直接接受徐州牧的職位，會讓很多人眼紅，況且徐州現在仍然危機重重，曹操和袁術時刻威脅著徐州的安全。再說雖然陶謙有遺命讓自己接任徐州牧，還有大富豪糜竺的支持，但是現在畢竟沒有什麼重量級的讀書人支持自己，劉備覺得接任徐州牧的時機還不太成熟，也就直接推辭了。
糜竺見劉備不肯接任徐州牧，就發動了很多重量級的人物來勸劉備，這其中就有廣陵太守陳登和北海相孔融，其中陳登出力最多。
陳登，字元龍，是徐州當地的大名士，是那個時代的一流人物，才智過人，文韜武略。他們家在徐州非常有勢力，影響很大。
陶謙在任的時候，陳登對他很不感冒，甚至有些厭惡。但是陳登對劉備是非常看重的，他認為劉備是個英雄，還是個仁厚的長者，他早就想結識劉備了。
這次徐州遭遇危機，暫時出現權力真空狀態，而劉備又不願意接任徐州牧，這讓陳登很著急上火，所以他親自跑到小沛，勸說劉備接任徐州牧。
陳登見到劉備，就開門見山地對他說：“現在漢室的基業已經很危險了，天下又處在大亂之中，英雄豪傑能不能建立偉大的功業，就看有沒有好的時機。現在您正好遇上一個好得不能再好的機會，就看您怎麼抉擇了。徐州雖然經過曹操前些時候的肆虐，沒有以前那麼興旺發達了，不過還是有百萬人口的，而且徐州非常富足，足可以成就一番功業，就請您勉為其難接任徐州牧吧！”
劉備聽陳登這樣講，心裏麵自然是非常高興的，可是他還是推辭說：“袁術就在徐州附近，他家是四世三公，勢力很大威望也很高，不如讓他來做徐州牧吧。”
劉備這樣說，其實是向陳登表示自己的擔憂，潛台詞是袁術就在附近，勢力也很大，如果我當上徐州牧，他不高興，率兵打過來怎麼辦？
陳登聽了劉備的話，馬上就急了，他說：“袁術這個人驕奢淫逸，根本就不是一個可以成就大事的人，我看用不了多久他就會敗亡。再說袁術怎麼能和您相提並論呢？您是一代英傑，隻要接任了徐州牧，馬上就可以召集十萬將士。進可以匡扶漢室，兼濟天下；退可以割據一方，保境安民，留名於青史之上。現在徐州牧這個職位必須讓您來當，別人當我們都不會答應。”
劉備聽了陳登發自肺腑的話，非常高興，心裏答應了，但表麵上依然推辭，於是他跟陳宮說再給點時間讓他考慮考慮。
緊接著，當時寄居在徐州的北海相孔融也跑過來勸劉備接任徐州牧，劉備又拿袁術來說事，孔融聽劉備提到袁術，也和陳登一樣急了。他對劉備說：“您提袁術這家夥幹什麼，他隻不過是井裏麵的一堆枯骨罷了，何必在意他呢？現在徐州的百姓都擁戴您，是老天爺要把徐州給您，如果您再不接受，那麼後悔可就來不及了。再說您是漢室宗親，理應承擔更大的責任，難道您要逃避自己身上的責任嗎？”