萬曆十五年，海瑞赴任南京後，著力懲治推諉殆政的作風，並向萬曆皇帝上疏，認為只有用重刑才能懲治腐敗，建議恢復洪武年間的剝皮囊草等律法。皇帝看後感到為難，百司也為此惴恐，清流更是認為海瑞太過愚戇，進而引發了一場大爭論。
提學御史房寰因貪污受賄，害怕被追究，便大肆攻擊海瑞，說他「妄引剝皮實草之刑，啟皇上好殺之心。」在輿論的圍攻之下，海瑞一時陷於孤立的境地，雖有顧允成、彭遵古等人積極辯護，但他已萌生了退隱的念頭。在給好友梁雲龍的信中，海瑞說：
「七十有四非做官時節，況天下事只如此而已，不去何為？」
這與他三年前復官時說的「以萬物一體為己任」產生了極大的落差，昔日的豪言壯志已經轉變為現今的心灰意冷。大明朝的天下事「只如此而已」，已是「不可救藥」了。失望之下，海瑞連續六次上表請辭還鄉，但都未獲批准。
這年十月十四日，重病纏身的海瑞最終死於任上。他年老復出，始終未得重用，在朝廷看來，海瑞不過是一個點綴太平的清官而已。
海瑞（1514年－1587年），字汝賢，號剛峰
明朝以心學為時代精神，吳與弼、胡居仁、陳獻章、王陽明乃至李贄等都有心學的思想。王陽明宣揚「致良知」，李贄主張「護童心」，而海瑞則強調「識真心」。他在十四歲時就說：
「聖賢千萬語，只欲人識其真心。率其真而明目張胆終身行之，卓然不牽於俗者，聖賢也。」
海瑞認為做人一定要認真，要敢於說真話、做實事；不能像假道學那樣，為了迎合世俗而圓滑處世，成為了世故的偽君子。能夠認識自己的真心，並且憑著真心去做自己，這便是聖賢；二積極迎合群體，牽累於流俗的，便是鄉原。當時的世風日下，鄉原群起，所以海瑞說：
「世俗群然稱癖性，稱太過者，多是中行之士。而所稱賢士大夫善處世者，或不免鄉原之為。」
他鄙視鄉原的調和與折中，痛恨他們的圓滑世故，認為「今人不為大惡，必為鄉原」，卻少有人去「識真心」，做真實的自己。大明朝上自高官，下至平民，都奉行「甘草處事」的法則，什麼藥它都可以參配，就是不痛不癢、治不了病，整天說正確的廢話、套話，自以為無可指責，卻也不做實事。海瑞誓不做這種人，他說：
「平生所學，惟務識真，必為聖賢，不為鄉原，力破無害從俗之說。」
他還在《朱陸》中讚揚陸九淵與王陽明的心學，認為朱熹以格物致知為入門，「捨去本心，日從事於古本冊子，章章句句之」，有支離破碎之病，不如陸王求之於心為確。在學術上主陸王而駁程朱，可能是海瑞早年科舉不第的原因。因為，嘉靖帝曾對大臣們說王守仁「放言自恣，詆毀先儒」，並下令「敢有踵襲其說，果於非聖者，重治不饒。」
因此，海瑞直到三十七歲才舉鄉試，而在這之前，他還因婆媳不睦，休掉了原配許氏，為此吃了一場官司。
海瑞認可王陽明，反對朱熹以「格物致知」為入門
嘉靖三十二年，海瑞會試落第，他毅然自決說「士君子由科目奮跡，皆得行志，奚必制科？」於是接受吏部的調劑，做了福建南平縣的教諭。
有一次，郡守諸大夫來視察工作，教官們都下跪迎候，只有海瑞居中挺立。諸大夫很生氣，說：「安所得山字筆架來？」海瑞覺得官場禮節太過形式主義，就這麼點事都不能見諒於人，可見「此闕陷世界，何能有濟」，還不如回鄉當百姓好，於是上交了辭呈。太守知道後，懊悔地說：「彼所執竟是，吾誤也。」朱鎮山也勸道：「平生所學謂何，所出謂何，只爭一跪耶？」海瑞這才留了下來。
在南平任教四年後，海瑞被提拔為浙江淳安縣的知縣。他剛入境，便目睹到了生民疾苦的慘狀，為此不僅感嘆：
「天下事都被秀才官作壞了。」
大惡的貪官盤剝百姓，中飽私囊；鄉原的庸官則博交延譽，通過窮盡民力來獲取政績。他們奉行的官場生存之道是「凡所行不可認真，認真則生怨取禍」，這是海瑞所無法容忍的，他一上任便認真起來。命令所有公職人員務必各守其職，各盡其責。還下令清丈民田、修築城郭、拆毀淫祠、興辦社學。
在淳安任知縣期間，海瑞始終不向上級送禮，也拒絕盛裝接待過往的朝中御史。所以任滿後沒有獲得升遷，反被調往更加貧困的興國縣。對於海瑞這種清官來說，不迎合鄉原，就沒有升官的機會，這是大明朝官場潛規則的弊端。
嘉靖四十三年，朱鎮山為銓曹，他知道海瑞為官清廉又有人望，所以超遷他為戶部主事，到朝中任職。
海瑞在朝中，看到了嘉靖帝深居西苑，專意齋醮，百官卻爭上符瑞的荒唐局面。認為這是不識真心的緣故，說：
「為身家心何懼心合，臣職所以不明；求長生心與惑心合，君道所以不正。」
當官的整日患得患失，處處為自己的身家性命著想，又畏懼於皇帝的權力，所以只能一味地阿諛奉承，不知道自己的職責是上理陰陽、下為民生；做皇帝的又迷戀長生不老，被道士方術所愚弄，不明白安社稷、立萬民才君道。因此，海瑞決定要上一本「正君道，明臣職，求萬世治安」的奏疏。
這本奏疏的鋒芒不亞於韓愈的《諫迎佛骨表》，更為驚人的是它敢於直接批評皇帝。疏中先說世宗薄於父子、君臣和夫婦，有失君道、父道和夫道；這才導致了大明朝「吏官談橫，民不聊生」的困局。因此，指出「陛下之誤多矣，其大端在齋醮」，然後遍舉堯舜禹湯文武之世皆無齋醮之事，秦皇漢武妄求長生，愚惑至甚，而宋真宗偽造天書，終為天下笑。皇帝不該再迷惑於此，為何不反省悔悟，洗數十年之過，再與君臣共治天下呢？
《治安疏》送入宮中後，海瑞坐於玉堂公署，將後事託付給好友王用汲，說「死於尓乎殯，還我首邱足矣。」接著對酒論文，談古今治亂興衰之故，認為士大夫立身行己，惟以「事事認真」為主。說完自己就奔赴朝房待罪，已是視死如歸了。
嘉靖帝讀到奏疏後，拋擲於地，大怒不已，之後又重新撿起來繼續讀，一連過了幾個月都沒給海瑞定罪。一天，嘉靖帝煩悶不樂，於是召首輔徐階議事，流露出了要禪讓的意向，徐階急忙諫止。嘉靖感嘆說：「畜物（指海瑞）諫我是也，顧朕老矣，安能視朝如曩時。」又說「朕不自謹惜，致此疾困。使朕能出御殿，豈受此人詈詬耶！」這說明皇帝已經意識到了奉玄齋醮的虛妄，承認海瑞說得對，但唯一不能忍受的是作為君上居然被臣下詈罵。因此，沒有說海瑞造反謀大逆，也沒有說他誹謗朝政，而是以「詈主毀君」的罪名送往錦衣衛獄審理。在刑部上呈死刑的判決後，嘉靖帝依然留中不發。
兩個月後，皇帝駕崩，首輔徐階密草遺詔，釋放了所以因言獲罪的官員，海瑞得以復出。
明世宗
穆宗繼位後，海瑞主政三吳，他力排眾議，整修吳淞江和白茆河。計費甚省，且役成而民不知勞。官員政敵們也不得不讚嘆：「萬世功被他成了！」可見其才幹卓絕，非鍵盤可妄議。
土地私有制一直是封建社會的經濟基礎，也是病根之所在。歷朝歷代總免不了在土地分割、兼并、戰亂和重新分配之間循環，海瑞深知此弊，所以他說：
「欲天下太平，惟有井田一法，井田之卒不壞而不可復，惟有亟奪富民田一言，至於不得已而限田，又不得已而均稅，下下策矣。」
海瑞所說的「井田」其實是土地國有或公有的意思，是對土地私有制的否定。土地私有制是造成富戶權貴兼并土地、普通民戶流離失所的根源。但由於井田已經不可恢復，因此只能通過均田或限田來損有餘以補不足，比起這些措施來說，「均稅」算是最下下策了。這是海瑞與張居正的在政見上根本區別。
張居正主政後實施稅制改革，大力推行一條鞭法，這在海瑞看來就是「均稅」，它沒有觸及到根本的經濟基礎，不會引起巨大的變革，也無法從根本上消除弊端。當李自成起兵的時，「均田免糧」的口號依然深得民心，稅制改革的作用十分有限。而在張居正看來，海瑞的做法又過於冒進，他在給海瑞的信中說：
「三尺之法不行於吳久矣，公驟而矯以繩墨，宜其不堪也。」
海瑞一直認為富戶的田地是「小民原有之肉」，鄉官為虎二十年，魚肉百姓，現在應將他們的田地退還回來。而在這時給事中戴鳳翔卻參劾他，理由竟是海瑞助民為虎，魚肉鄉官！分田受到了極大的阻力，海瑞最終只得罷官還鄉。後來張居正也評價說：
「至於海剛峰之在吳，其施雖若過當，而心則出於為民。」
海瑞認為張居正的「均稅」是下下策，張居正則認為海瑞的分田屬「過當」，這便是二人在改革上的不同立場，所以在張居正當政的十年里，海瑞始終閒居在家，不被任用。
海瑞的仕途忽起忽落，時而為封疆大員，時而名掛虛職，他的改革主張始終沒有得到一個穩定而強有力的後台支持，所以總是斷斷續續。在俗人看來，海瑞頗為「古怪」，不近人情，而用海瑞自己的話來說，這「古怪」不過是「認真」而已，「認真」者是不會去跟鄉原講什麼人情的。
他的主張過於激進，得不到朝廷和同僚的支持；他做人做事不迎合鄉原，不願為甘草，而是雷厲風行，敢作敢當，不屬於任何派系，也沒有多少人肯幫他；所以，海瑞看起來，似乎總是無法施展自己的才幹，得不到重用。
歸到底，問題還是在於海瑞的「認真」。因為，我們的民族習性總是不怎麼喜歡認真的人，而是喜歡苟且。魯迅就曾說：
「不是很大的鞭子打在背上，中國自己是不肯動彈的。」
中國人的性情喜歡調和與折中，如果你想在昏暗的房子裡開個天窗，必然有許多人來反對，而如果你乾脆說要把房頂掀了，他們就會來調和，願意開天窗了。同樣，中國人偏向保守，如果你的主張不夠激進，就不會引來多少變動。五四時，若不是有人主張廢除漢字，白話文斷然是不會推廣得那麼順利的。
海瑞或許就是這麼一條鞭子，他有志於改革，想讓大明朝動彈起來，故而說了許多「過當」的話，採取了許多「過當」的措施。然而，許多後人只是去調和、去爭論究竟「過當」在哪裡，卻不知道最應該做的是要使大明朝動彈起來！