我擔心他的建議難以實行，恐怕與法國人在上海決裂，貽誤了國家的大局，請求撤換陳寶琛。奏折很快送到朝廷，光緒皇帝一看，深為不滿，想再次下旨申斥。慈禧太後則認為曾國荃言之有理，但她也不想答應法國人的無理要求，於是兩個人的奏折就這樣不了了之。這一下，曾國荃可犯了難了，賠款也不是，不賠也不是，就這樣談談停停，久而未決。終於法國人坐不住了，首先派兵進攻台灣的基隆和福建的馬尾軍港。督辦台灣事務大臣劉銘傳率軍奮力抵抗，敵軍久攻不下。在福建馬尾，會辦大臣正是清流主將張佩綸，麵對法軍頻頻調動，戰爭馬上就要爆發，他卻沒有了昔日的豪情，命令軍隊原地待命。甚至下令，不準首先開炮，如有違犯的，即使是打勝了也要處斬。這樣，在法軍的進攻下，很多戰艦還沒有來得及起錨就被炸沉了。雖有士兵奮力抵抗，也沒有逃脫全軍覆滅的命運，張佩綸倉皇逃竄。
清政府打了敗仗，就要追究責任，那些妨礙和談的人自然成了攻擊的對象，曾國荃借機上疏，奏陳寶琛好高騖遠，不切實際，致使貽誤和談大局。另外，1882年的唐炯、徐延旭在越南兵敗，陳寶琛有薦人失察之過。
朝廷認為所奏有理，於是將陳寶琛降五級任用。陳寶琛自感無所作為，恰逢母親剛剛病逝，就以此為由，回家“丁母憂”。誰知道，這一去就是二十四年，直到1909年才奉詔再次進京。
辭官回鄉的歲月
1885年2月，陳寶琛看到時局動蕩，自己的宏圖大誌在現實麵前擊得粉碎。麵對法國的堅船大炮，空有殺敵之心，而沒有回天之力。在朝中，那些曾受到“清流”攻擊的守舊派，一時間拍手稱快，此時群起而攻之。
有一副對聯，諷刺了“清流”們的好高騖遠、不切實際。上聯是：三洋會辦，且看侯官革職，豐潤充軍。下聯是：八表經營，也不過山西禁煙，廣州開賭。“三洋會辦”指的是南洋會辦陳寶琛、北洋會辦吳大澄、福建會辦張佩綸。陳寶琛是福建侯官人，張佩綸是直隸豐潤人，聯中用地名喻指陳張二人。“八表經營”影射張之洞。
張之洞曾在奏折中寫過：“敢忘八表經營。”“山西禁煙”
指代勞而無功的事情。自鴉片傳人中國以後，清政府一直在禁煙，可是屢禁不止，尤其是山西太原，簡直成了鴉片的暗中集散地。所以，他們用“山西禁煙”來嘲笑“清流”們的失敗。“廣州開賭”，指為籌軍餉，廣州曾在鄉試之年，以入闈舉子的姓氏當作賭注。對聯諷刺朝廷用這些無用的書生參與軍國大事就像“廣州開賭”一樣。
那些守舊派的得意之態在這裏可以看出一二。
陳寶琛被降五級任用，再加上戰爭的失敗，令他對朝政時局心灰意冷。他是個孝子，母親病逝，對他也是一個不小的打擊。真是“屋漏又遭連陰雨，行船偏遇打頭風。”他幹脆上疏，辭去所有的職務，回家為母親“丁憂”，以盡孝道。
陳寶琛回家之後，閑居了一陣子，每天的生活隻是讀書教子。後來，他每天去賜書樓讀書，見這裏已經很破舊，就想把它重修一下。賜書樓是陳寶琛的曾祖父陳若霖所建。陳若霖在朝廷任職的時候，道光皇帝屢屢賜書給他，他感激涕零，於是就修建賜書樓，專門收藏禦賜書，以表示不敢忘記皇恩。陳寶琛看到賜書樓經過了這麼多年的風風雨雨，感慨萬千，祖上在過去曾經多麼的輝煌，自己卻落得一敗塗地，但願重修此樓能為自己的前途帶來好運。經過一年的時間，賜書樓修葺一新，又恢複了往日的風采。但他隻能每天到這裏看書、懷舊，覺得自己已經不可能有這樣的榮耀。時光荏苒，歲月悠悠。現在，他雖然在家閑居，心中卻時刻關心著外麵的世界。此時，中、日戰爭已經結束，喪權辱國的《馬關條約》已經簽訂。條約的主要內容是：“割讓遼東半島、台灣全島以及所有附屬島嶼和澎湖列島給日本；賠償軍費二億兩白銀；增開沙市、重慶、蘇州、杭州四個通商口岸；允許日本臣民在中國通商口岸設立工廠；日軍暫時占領威海衛等等。”他聽說以後先是震驚，繼而憤怒，後來就幹脆大罵起來。他先罵日本人貪得無厭，再罵李鴻章懦弱無能。