海瑞上任後，立刻收到百姓反映五城兵馬司到處敲詐勒索、強行攤派的控告。所謂五城兵馬司，乃是南京城內的治安隊，自然成為腐敗的高發地帶。海瑞決心拿這裏開刀。他發布告示說：
“五城兵馬司官吏，如狼之貪，如虎之猛，敲詐百姓的膏血，用來迎合上官，自己貪汙。各街巷的人，如果被五城兵馬司侵擾，可以放膽到我這裏來告，本官定為你們做主！做老百姓，不可做刁頑不聽法度的百姓，亦不做軟弱聽人打、聽人殺而不言的百姓。有冤不告，冤何時止？”
一紙告示下達，朝廷明白了，海瑞還是那個海瑞，絲毫未變。“海青天”依然像以前那樣強硬如鋼，歲月不但沒有使他的性格裏增加一點彈性，反而老而彌堅，老而彌辣。
海瑞還是沒有弄明白官場裏的利益規則，他不知道動了五城兵馬司，就等於動了南京兵部，就等於動了整個南京的官僚網。雖然五城兵馬司僅為六品衙門，卻是可以通天的重要部門。他以為自己以副部級侍郎之威，一個號令就可以解決問題，實在是太天真了。
不僅如此，不久之後，海瑞又上書皇帝，對朝廷吏治表示極大不滿，建議恢複明太祖對貪官剝皮實草的酷刑，以為非如此，官場風氣無法好轉。
理所當然，海瑞吏部右侍郎的椅子還沒有坐熱，一紙調令下達，升為南京都察院右都禦史。
又一次明升實降。原來，“南京為養望地，官號吏隱。右都雖長禦史，稱獨坐，然於諸禦史無所短長也，取相引為尊重，他吏治民事無相關者。稍積望歲月，且遷北矣。即京中人從來未知右都禦史為誰氏”。
成祖遷都北京後，為了表示對太祖的尊重，在南京設了一係列官職，然而大多有官無職。右都禦史更是個可有可無的閑職。名位雖高，實際上什麼事也管不了。年輕的萬曆皇帝在召來海瑞不久就後悔自己年輕沒經驗，犯了個錯誤。他現在終於明白張居正為什麼不起用海瑞了。
有人要拿下海瑞
也許是人老了，海瑞終於感覺到了灰心的滋味。失望和絕望是不同的，在人生末路上，絕望就意味著對自己一生努力的否定。他終於發現他無法改變這個世界。他給海南故友梁雲龍的信中說：“年七十有四，非做官時節。
況天下事隻如此而已，不去何為！”
一生的雄心壯誌終於消泯，他現在可以基本判定自己的一生是失敗的。
這一生，他吃了常人所不能吃的苦，承受了他人難以想象的壓力，放棄了人生的諸多樂趣。他把自己活生生的生命軋榨成了一塊頑石，卻沒有做成挽狂瀾於既倒的中流砥柱——洪水輕易地把他從一個角落衝到了另一個角落。
他一道又一道上辭呈，希望盡快擺脫汙濁的官場。皇帝卻一次又一次拒絕。皇帝欣賞海瑞的品格，佩服海瑞的勇氣，讚美海瑞的清廉。他可不想承擔放逐清官的罵名。有這麼一個將來可以留名千古的清官在自己的時代，是朝廷的光榮，也是他這個皇帝的光榮。
既然不能求去，海瑞隻好做起他的右都禦史。隻要做了，他就不會做一天和尚撞一天鍾。不論什麼時候，他都學不會敷衍了事，學不會表麵文章。
本來，右都禦史隻是名義上的尊稱，習慣上，在南京禦史台並不管實事，與眾禦史其實“無所短長”。整個南京禦史台甚至都不怎麼上班，右都禦史更時常經月不見一麵。
然而，海瑞卻不這樣看。他認為，禦史的職責就是紀律檢查，自然應該做百官的表率，這一點上，南京禦史和北京禦史不應該有什麼區別。上任後，第一件事就是整頓紀律，要求所有禦史都得上班。
海瑞每天早早就到禦史衙門，誰上班遲到了，立刻罰俸。禦史們其實沒有公事可辦，也得一天天在堂上坐著。
南京禦史紀律鬆弛慣了，違法亂紀是尋常之事。海瑞一旦發現，定然嚴懲不貸。禦史陳海樓的家人到市場上用官員紅票買米，隻付給一半價錢。這其實是當地官場的慣例，海瑞得知後，將其家人責打三十大板，並且戴上大枷，放在衙門口示眾。