孔子在齊不得誌，遂又返魯，“退而修詩書禮樂，弟子彌眾”，從遠方來求學的，幾乎遍及各諸候國。其時魯政權操在季氏，而季氏又受製於其家臣陽貨。孔子不滿這種政不在君而在大夫，“陪臣執國命”的狀況，不願出仕。他說：“不義而富且貴，於我如浮雲。”
魯定公九年（前501年）陽貨被逐，孔子才見用於魯，被任為中都宰，是年孔子五十一歲。“行之一年，四方則之”。遂由中都宰遷司空，再升為大司寇。魯定公十年（前500年）齊魯夾穀之會，魯由孔子相禮。孔子認為“有文事者必有武備，有武事者必有文備”，早有防範，使齊君想用武力劫持魯君之預謀未能得逞，並運用外交手段收回被齊侵占的鄆、灌、龜陰之田。定公十二年（前498年）孔子為加強公室，抑製三桓，援引古製“家不藏甲，邑無百雉之城”提出“墮三都”的計劃，並通過任季氏宰的子路去實施。由於孔子利用了三桓與其家臣的矛盾，季孫氏、叔孫氏同意各自毀掉了費邑與後邑。但孟孫氏被家臣公斂處父所煽動而反對墮成邑。定公圍之不克。孔子計劃受挫。
孔子仕魯，齊人聞而懼，恐魯強而並己，乃饋女樂於魯定公與季桓子。季桓子受齊女樂，三日不聽政。孔子政治抱負難以施展，遂帶領顏回、子路、子貢、冉有等十餘弟子離開“父母之邦”，開始了長達十四年之久的周遊列國的顛沛流離生涯。是年孔子已五十五歲。先至衛國，始受衛靈公禮遇，後又受監視，恐獲罪，將適於陳。過匡地，被圍困五天。解圍後原欲過蒲至晉，因晉內亂而未往，隻得又返衛。曾見南子，此事引起多方的猜疑。衛靈公怠於政，不用孔子。孔子說：“苟有用我者，期月而已，三年有成。”後衛國內亂，孔子離衛經曹至宋。宋司馬桓魁欲殺孔子，孔子微服過宋經鄭至陳，是年孔子六十歲。其後孔子往返陳蔡多次，曾“厄於陳蔡之間”。據《史記》記載：因楚昭王來聘孔子，陳、蔡大夫圍孔子，致使絕糧七日。解圍後孔子至楚，不久楚昭王死。衛出公欲用孔子。孔子答子路問曰，為政必以“正名”為先。返衛後，孔子雖受“養賢”之禮遇，但仍不見用。魯哀公十一年（前484年）冉有歸魯，率軍在郎戰勝齊軍。季康子派人以幣迎孔子。孔子遂歸魯，時孔子年六十八。
孔子歸魯後，魯人尊以“國老”，初魯哀公與季康子常以政事相詢，但終不被重用。孔子晚年致力於整理文獻和繼續從事教育。魯哀公十六年（前479年）孔子卒，葬於魯城北泗水之上。