呂布敗退後，陳留太守張邈也跟著呂布南下，見呂布不願投奔袁術，張邈便辭別了呂布，前往揚州向袁術借兵。張邈的弟弟張超率軍兩萬駐守雍丘，護衛張家宗族。曹操劍指雍丘，率軍猛攻，卻遲遲攻不下。
呂布率軍進入徐州地界，派陳宮作為使者拜見劉備。劉備命陳宮在驛館等待，先召集別駕糜竺、治中陳群、司馬陳登、從事簡雍和孫乾詢問對策。糜竺憂心道：“主公，呂布是猛虎，咱們現在是騎虎難下。如果不接納呂布，他必會進攻徐州，搶下一塊立足地。到時候既與呂布結仇，又要防範袁術，是首尾難顧啊！”陳登冷笑一聲，“糜別駕多慮了，呂布不過是喪家之犬，已經毫無鬥誌。咱們擁兵三萬，呂布隻有區區一萬兵馬，有什麼可怕的？如果接納呂布，那才是噩夢的開始。呂布先誅殺丁原，後誅殺董卓，毫無信義，簡直麵目可憎！”
劉備歎氣道：“你們有沒有想過曹操。如今曹操已經快掃平兗州，糧草百萬石，擁兵五萬以上，元氣恢複，可謂兵強馬壯。不管呂布如何，曹操在攻下雍丘後，會不會來爭徐州？一來，報父仇；二來，搶占徐州。如果到時候曹操率軍從北麵任城進攻，袁術率軍從南麵廣陵進攻，咱們首尾難顧，如何應付？”
糜竺讚歎道：“主公英明啊！曹操，清平之奸賊，亂世之梟雄。咱們雖然與袁紹聯盟，可在曹操眼裏，聯盟未必能束縛住他。一旦他實力強大，別說咱們，就是袁紹，他也照攻不誤！呂布是毫無信義的猛虎，而曹操和袁術也是兩隻貪婪的惡狼，咱們夾在他們三個中間，隻有借助呂布的力量才能北麵震懾曹操，南麵震懾袁術。”
陳群也欣然點頭，附和道：“糜別駕說得對，隻不過對待呂布不能太過親近，要小心防範，以免他反客為主。如果能把握好分寸，呂布對咱們來說就像家裏拴著的一條狗，既可以用來嚇跑惡狼，又不至於傷到自己。”
陳登無奈道：“你們說得輕巧，世間的事哪有這麼容易的？主公也擔憂的是，曹操與袁術如今都實力強大，唯獨咱們徐州元氣大傷，人口稀少，對付他們之間一個已經捉襟見肘，如果他們南北夾攻，咱們必定滅亡。我有一計，可以既威懾呂布，又不至於讓呂布反客為主。當初陶謙接納主公時，曾派主公駐守小沛，幫他抵禦曹操。咱們不妨也效仿陶謙，派呂布駐紮北麵。如果他俯首稱臣，咱們就給他個安身的地方；否則立馬聯合曹操，讓他死無葬身之地。”
劉備欣然點頭，於是召見陳宮。陳宮拱手一拜：“呂將軍使者別駕陳宮見過明公！”劉備抬手示意，“不知道呂將軍派你們為了什麼事？”
陳宮笑道：“當然是敘舊情。當初明公討伐董賊，曾與呂將軍在河陽津大戰，莫非明公忘了？後來為了助明公一臂之力，呂將軍不惜大義滅親，斬殺董賊，將陛下從水深火熱中救出。這次曹賊屠戮徐州近百萬人口，明公千裏迢迢援救徐州，在下當時在曹賊手下擔任別駕，算是一人之下萬人之上，可在下為了保徐州百萬黎民，不得不憤然反抗曹賊，迎呂將軍前來兗州，圍魏救趙。這點情意難道明公不記得了嗎？”
劉備虎軀一震，對陳宮的義舉十分欽佩。不禁讚歎道：“先生為了百萬黎民不惜賭上身家性命，這等胸懷令人敬佩！先生有什麼話盡管直說，如果是我力所能及的，劉備絕不會推辭。”陳宮輕輕點頭，也感慨道：“明公真是仁善之人，呂將軍沒有其他的意思，隻是想暫借一塊土地安身立命。待日後反攻兗州，再歸還土地。”
劉備一聽便知道陳宮是托詞，趁機問：“呂將軍隻有一萬人馬，今後還能反攻兗州嗎？”陳宮尷尬一笑，“如果攻不下兗州，也可以進攻豫州，替明公解除西麵隱患。”劉備疑惑問：“那豫州刺史郭貢與袁術可是交情頗深，呂將軍就不怕得罪袁術？”陳宮大笑，便將呂布被袁術慢待的往事重提，並趁機許諾：“明公放心，呂將軍說了，他與袁術有嫌隙，絕不會與袁術勾結危害明公！”
於是劉備將小沛暫借呂布，命他駐紮小沛牽製曹操，糧草全部由徐州供應。為了防止呂布坐大，劉備暗中命人按呂布所報士兵數按月供給，後來又改為每半月供應一次。呂布心知肚明，劉備這是暗中防範自己。他親自登門拜謝，劉備熱情招待。後來呂布又邀請劉備前往小沛，劉備也欣然領著張飛、關羽前往。
呂布一開始對劉備十分恭敬，禮儀也十分周到。他悲傷道：“說起來真是讓人難過啊！當初天下諸侯聯盟討伐董卓，後來我大義滅親，替諸侯殺了董卓，應該是諸侯的恩人，但我從關中逃出，關東諸侯卻沒有一個人願意接納我，都想殺了我。我不明白，到底是為什麼？後來我想通了，因為他們都出身世家大族，而我隻是一介貧民。玄德老弟，你我都是北疆邊境的貧民，咱們可不能相互嫌棄啊！”