隨著反腐敗的深入，人們越來越深刻地認識到：盡快建設一個符合我國實際、能有效地懲治腐敗的反腐敗機製，是從根本上遏製腐敗的重要措施。建設這樣一個好的反腐敗機製需要做的工作很多，當前最關鍵、最迫切的，就是要轉變觀念，徹底扭轉長期以來形成的傳統的、落後的思想觀念，樹立符合時代特點的、全新的反腐敗觀念。目前主要應改變三個觀念：
（一）改靠教育防腐為主為靠製度防腐
我國是一個十分重視思想教育的國家，曆來重視通過思想教育提高人們的認識，使老百姓明白應該做什麼，不能做什麼。春秋時期我國偉大的教育家孔子窮其畢生精力興辦教育，堅決反對“不教而誅”。以孔子和他的學生孟子的思想“孔孟之道”為核心的儒家思想，有一個基本觀點，就是強調對人的教育。我們黨繼承了這個思想，堅持通過思想政治教育提高全民族的總體素質，重視思想政治教育成了黨的光榮傳統，成了我們黨的一大優勢。但是，正是長期重視思想政治教育的習慣，使不少同誌在反腐敗這個問題上，產生了一種誤解：認為反腐敗隻能靠思想教育；反腐敗搞得好，是因為教育搞得好；隻要教育搞好了，腐敗現象就自然絕跡了。這種觀念必須改變。
首先，對接受教育的人而言，教育具有選擇性。人們可以接受這種教育，也可以接受另一種教育；可以按教育要求的去做，也可以不按這些要求去做。通過教育形式進行深入細致的反腐敗教育，可以提高大部分人的思想覺悟，但卻不可能使利欲熏心的人和腐敗分子僅僅依靠廉政教育就改邪歸正。如果沒有強製性措施，他們的私欲是不可能有絲毫收斂的。
其次，人本身具有善與惡的二重性。人既有善良、正直的一麵，也有自私、貪婪的一麵。通過堅持不懈的教育，可以使好的一麵得以充分發揮，成為主流；不好的一麵暫時隱匿，成為次要的一麵。但是，教育不能徹底改變善惡，把惡的一麵變成善的一麵。如果沒有其他措施，遇到適宜的氣候和環境，有了適宜的發展條件，被壓抑的私欲就會迅速膨脹起來，由次要變成主要，顯示出醜陋的本性。
再次，不同的意識形態教育的內容不相同。教育的內容和形式是多方麵的，你進行正麵教育，他完全可以進行相反的教育。不同的意識形態，教育的內容有很大的不同，而現代科技的發展，又為人們接受各種信息提供了廣闊的空間，人們在耳濡目染、不知不覺中就會受到不同信息的影響，產生潛移默化的作用。而製度就不同了，因為製度帶有強製性，一旦形成，不管你是否想得通、願意不願意接受，在行動上必須遵守。正因為如此，才必須改變靠教育就能防止腐敗的觀念，在思想上樹立起在堅持教育的基礎上，靠健全和完善的製度來防止腐敗的觀念。
（二）改變靠人治反腐、不靠法製反腐的觀念
由於中國是一個經過幾千年封建統治的國家，長期的封建統治，在人們頭腦中形成了靠人治而不是靠法製的思想，法製觀念在人們思想中很淡薄。特別是在反腐敗問題上，相當多的人把希望寄托在清官身上，盼望能夠多出一些包公、海瑞、薑瑞峰、曹克明，或者是像電影《生死抉擇》中李高成那樣的人物。認為清官多了，貪官就站不住腳了，腐敗就無地自容了。這既是一種良好的願望，同時也是一種天真的幻想。這是因為：
第一，清官的作用範圍是有限的。應該承認，共產黨和人民政權的官，絕大多數是好的、廉潔的。像薑瑞峰、曹克明等人，就是這千千萬萬的好官裏的代表和典型。他們是清官，但他們隻能在自己管轄的範圍內反腐敗，對管轄範圍之外的腐敗就鞭長莫及了。就是在他們管轄的範圍之內，也不是一有腐敗就能夠隨心所欲地去處置，也還要靠集體領導，要堅持民主集中製，不能由個人說了算。另外，對下級、對他管理的對象中的腐敗，他有權過問。而對上級、對不屬於他管的對象，他就無能為力、有看法沒辦法了。因此，清官的作用不是無限的。