海瑞是一個富有傳奇色彩的人物，對他的生平行事應該如何評論，人們曾經發生過尖銳的爭執。和同時代的很多同僚不同，海瑞尊重法律，恪守原則，並且竭盡所能地按照最高限度去執行。即使朝廷發給官吏的薪水微薄到不夠吃飯，那也應該毫無怨言地接受。這種信念有他自己的行動作為證明：他官至二品，死的時候僅僅留下白銀20兩，不夠殮葬之資。
海瑞以舉人出身而進入仕途，開始被委任為福建一個縣的儒學教授，任期4年。到1558年升任浙江淳安知縣的時候，他已經45歲。
這淳安縣，乃是往來三省的孔道，交通發達，本縣人民的負擔也隨之加重。原因是按照本朝立國時所訂立的財政製度，政府中的預算並無旅費一項，全國1040個驛站，名義上由兵部掌管，實際上一切費用，即過境官員本人及其隨從所需的食物、馬匹和船轎挑夫，全部由該地方負責。兵部隻發給旅行人員一紙勘合：驛站所在之處，即須按照規定供應。七品官海瑞的聲名開始為人所知，就是因為他能夠嚴厲而巧妙地拒絕官員濫用這種權力而增加地方上的負擔。
有一段故事說，當日以文官而出任總督的胡宗憲，兼負防禦倭寇的職責，居官風厲，境內的官民無不凜然畏懼。一次，他的兒子道經淳安，隨帶大批人員和行李，作威作福，對驛站的款待百般挑剔，並且淩辱驛丞。縣令海瑞立即命令衙役皂隸拘捕這位公子並押解至總督衙門，還沒收了他攜帶的大量現銀。他在呈報總督的公文內聲稱，這個胡公子必係假冒，因為總督大人節望清高，不可能有這樣的不肖之子，也不可能擁有這麼多的金銀財物。
1560年，左副都禦史鄢懋卿被任命清理鹽法，南方“各省的食鹽征收專賣都歸他節製，以期增加政府收入，加強抗擊倭寇的財力。對於這位欽差大臣，地方官自然畢恭畢敬，不敢有絲毫怠慢。而欽差大臣本人也不能避免標榜儉樸以沽名釣譽的時尚，先期發出通令，內稱本院“素性簡樸，不喜承迎。凡飲食供帳俱宜簡樸為尚，毋得過為華奢，耗費裏甲”。這樣的官樣文章早已為人所司空見慣，不過視作一紙具文，即使欽差大人也沒想到會有人認真對待。
淳安縣縣令海瑞對這一通令可是毫不含糊。當鄢都院的節使尚未到達淳安，他已經接到一個稟帖。稟帖的一開頭規規矩矩地寫著“嚴州府淳安縣知縣海瑞稟”，緊接著就把通令的原文節錄於後，再接著就說台下奉命南下，浙之前路探聽者皆日，各處皆有酒席，每席費銀三四百兩，並有金花金緞在席間連續奉獻，其他供帳也極為華麗，雖溺器亦以銀為之雲雲。最後要求欽差大人摒棄奢華的排場和搜刮，並且說，如果不能拒絕地方官這樣的阿諛恭維，將來勢必無法做到公事公辦，完成皇上委托的任務。據說，鄢懋卿接到稟帖以後，就沒有敢進入淳安，而是繞道他去。
這種直言抗命的精神，可能使海瑞失掉了一個升官的機會。他於1562年調任江西興國，官職仍是知縣，不升不降。以他這樣的性格和作風，上司當然懷恨在心，如果不是他本人言行如一，清廉正直，十個海瑞也早已被罷官免職。
1569年複天，海瑞被任命為南直隸巡撫，駐紮蘇州。且不說這裏是全國最富庶的地區，即使是一般地區，任命這樣一位不由進士出身的人擔任巡撫，也已屬於罕見。但是這一地區曆來號為難治，以海瑞的性格而就任斯職，有識見的人早就料到必然引起不良的後果。事實不出所料，八個月之後，他遇到劾參而被迫退休。
海瑞的新職一經發表，南直隸的很多地方官就自己估計到將會不能見容於這位古怪的上司，因而自動離職或請求他調。縉紳之家紛紛把朱漆大門改漆黑色，以免炫人眼目而求韜光養晦。住在蘇州的一個宦官把他的轎夫由八人減至四人。舉出這些瑣事，就可以證明新巡撫大人聲勢之迅猛，足以使人震懾。