這時，魯定公已經去世，魯國由定公之子哀公（前494—前468年在位）繼位。魯哀公曾派人來請孔子回國，孔子心中盤算著魯國政務廢弛，國勢益弱，恐已難挽頹勢，但國君派人來請，總不能拒而不受，於是命弟子冉有回魯國從政。
冉有，名求，字子有，多才多藝，以政事見稱。他返回魯國時，哀公問他：“夫子現在在哪個國家？”
冉有回答：“正要去宋國。”
“自從寡人主政以來，一直苦於沒有賢人從旁相助，你這次回來得正好，請你一定要留下來協助我，千萬不要推辭啊。”
冉有見他態度懇切，言辭謙遜，隻好應命。
恰好，魯國的右司馬不久前去世，哀公就任命冉有出任右司馬。司馬掌管兵事，可以發揮自己的長處，所以冉有欣然受命。從此冉有長期在魯國做官。後來，孔子得以結束周遊生涯，返回魯國，就是冉有在哀公麵前力保所致。
另一邊，孔子一行抵達宋國國境後，顏回先去拜訪了他的舊友子罕。子罕一聽孔子已入宋國邊界，立即奏明宋君。宋君之前也久慕孔子盛名，馬上命大司馬桓魋前往迎接。
桓魋這個人極為專橫跋扈，他深恐孔子會受到宋君的重用，所以故意在宋君麵前進讒言。一來二去，宋君信以為真，便囑咐桓魋暗中留意孔子的行動。
有一天，孔子同弟子們到郊外遊覽，看到一大群人在雕鑿一個石質的棺槨。棺槨十分巨大，那群工人個個疲憊不堪，卻又不敢怠慢。
孔子好奇地詢問一個工人說：“你們勞師動眾造這麼大的一個石棺槨做什麼？”
“這是大司馬命令做的。”工人回答。
孔子又問：“為什麼要做這麼大？”
工人四下看看，然後極小聲地說：“他死後要許多人跟著陪葬的，所以棺槨當然是越大越好了。唉，我們命苦，被征來做苦役。前幾天已經有好幾個人被累死了。”
孔子長歎一聲，說：“這真是人間慘事，千古未聞啊！”
很快，桓魋知道了孔子這一天的活動，自然也知道了他說的這句話。桓魋心想，孔丘不除，始終是個隱患。
有一次，桓魋當著宋君的麵，奚落孔子道：“您在魯國時，官拜大司寇，位高權重，怎麼沒能使魯國臻於富強之境，稱雄於諸侯呢？從這方麵看，您似乎不及管仲和晏嬰啊。您既然棄官離開魯國，卻不隱居山林，反而終日東奔西走，乞求別國的賞識和任用。從這方麵看，您似乎不及伯夷和叔齊啊。”
伯夷和叔齊是商末孤竹國的兩位王子，彼此禪讓王位，最後為守節餓死在首陽山。儒家學派對兩人評價很高，稱其“能以國讓，仁孰大焉”。桓魋拿此二人比孔子，顯然是嘲笑孔子對故國並非忠心耿耿。