幾年後，白居易被調到京城擔任諫官，但皇帝是一國之尊，很少聽人勸。當諫官的人往往應付差事，白居易卻非常認真。
一次，唐憲宗要把淮南節度使王鍔調回朝廷當宰相。王鍔善於搜刮錢財，奴役百姓，更會拍馬屁，每年都向憲宗獻貢，深得憲宗的歡心。白居易上書給皇帝，強烈反對提升王鍔。
不久，河北發生了叛亂，唐憲宗想派宦官吐突承璀擔任大元帥，率幾個州的軍隊去征伐。很多大臣見吐突承璀不懂軍事，提出了反對意見。
白居易第一個說："這次征討關係著朝廷的安危，用人要得當，承璀沒有帶過兵，讓他指揮幾十萬大軍，請陛下三思！"
"他忠於朕啊！"唐憲宗說。
"朝中良將如雲，可以另派他人。"白居易勸道。
"朕已經決定了，你別說了！"
"陛下，宦官不能帶兵，這是朝廷製度。"
唐憲宗氣得臉都白了，喊了聲："退朝！"
後來，白居易多次進諫，得罪了皇帝。白居易三年任期滿後，唐憲宗讓他改做別的官。
44歲的白居易受到權貴們的排擠，被貶到江州當司馬，無事可幹。他為了排遣寂寞，就尋訪名勝，飲酒賦詩，在景色宜人的香爐峰下蓋了一座茅屋，準備過隱居的生活。
深秋的夜晚，白居易來到潯陽江頭送別朋友，快分手時，突然聽見江中一條船上傳出陣陣琵琶聲。聲音淒楚動人，白居易與友人被吸引住了，他們讓船工把船劃到江中，待靠近那條船後，白居易立在船頭，大聲問："是哪位名師在彈奏啊？請過來一見。"
一會兒，出來一個四十多歲的女人，羞怯地用琵琶半遮著臉，朝白居易和他的朋友行禮。
白居易連忙還禮，請她再彈一曲。
"大人，獻醜了！"女人調了調琴弦，又彈了起來。那樂聲時而如急雨，時而如私語，時而像珠玉相撞一樣清脆，時而像黃鶯鳴叫一樣婉轉。最後一刻，更是"此時無聲勝有聲"。四周靜悄悄的，一輪明月映照蒼穹。
"彈得太妙了！"白居易說。
從閑談中，白居易知道了她的身世。原來她年輕時是個樂妓，由於才貌雙全，王孫公子都與她合歡。年老色衰後，王孫公子就不愛理她了。她嫁給一位商人，商人經常一去幾個月不回家，她獨守空船，過著孤寂的生活。
聽了她的敘述，白居易聯想起自己的遭遇，由於仗義執言，多次遭受打擊，被驅逐到江州，和她的身世有些相似的地方。
白居易又請她彈了一首曲子，曲調悲涼，他們都流下了熱淚。
回去後，白居易寫下一首長篇敘事詩《琵琶行》，表達了對人民大眾的同情。這首詩語言優美，與《長恨歌》一樣，是古代詩歌中的精品。
白居易關心群眾的疾苦，在杭州當刺史時，在西湖修了座長堤，人們稱它為"白公堤"。
晚年，白居易回到了洛陽，又做了個掛名的官。除了整理文章外，他就與和尚們交往。他不願再參與政事了，但對人民的疾苦還是很關心。
一年冬天，七十多歲的白居易搬到香山寺住下來。幾個晚上，他都聽見從遠處傳來的哭聲。白居易帶著家人，冒著風雪去看個究竟。
有很多船工站在河水中，用力拖順流而下的船，以便減慢船速，防止觸礁。一個老船工倒下了，立即船毀人傷。
"為什麼要走這裏呢？"白居易大喊。
"就這一條水路！"船工說。
白居易到處遊說，籌集錢款，招募民工疏通伊河河道。從此，船隊不再擔心觸礁了。兩年後，白居易永遠地離開了人世。