全麵建設小康社會的目標共四個部分，雖然其中並沒有明確提出“社會建設”、“和諧社會”的概念，但事實上這些目標本身就包含著社會建設的內容，其目的也是達到社會更加和諧。目標的第一個部分主要講人民生活水平將進一步提高，過上更加富足的生活，這正是社會和諧最關鍵的物質基礎，而逐步扭轉各種差別擴大的趨勢也就是化解社會不和諧這一矛盾的過程。社會保障體係比較健全、社會就業比較充分則能保證人民群眾生活的穩定、和諧。目標的第二個部分主要講到民主、法製建設，這是建設和諧社會要在製度上給予保障的重要內容。第三部分則主要講在各種科學管理體製下促進人的全麵發展問題，能調動人的積極性，促進人的全麵發展的社會肯定也是和諧的社會。第四部分主要講人與自然的和諧。強調人與自然的和諧是中國共產黨經過長期的社會建設實踐並總結曆史教訓得出的寶貴思想，也是社會全麵進步的一個標誌。總之，全麵建設小康社會雖然沒有提出“社會建設”、“和諧社會”的概念，但整個目標都充滿著和諧的追求、體現著社會建設的構想。
二、構建中國特色社會主義和諧社會的提出
自1978年中國拉開改革開放的大幕，在堅持“發展才是硬道理”的基本理念下，我國進行了一係列全方位深刻的改革發展，隨著社會主義市場經濟不斷發展，公有製為主體、多種所有製經濟共同發展的基本經濟製度和按勞分配為主體、多種分配方式並在的分配製度的建立，工業化、城鎮化和經濟結構調整加速，社會組織形式、就業結構、社會結構變革加快，目前，我們已進入改革發展的關鍵時期，2003年我國人均國內生產總值已達到1090美元，進入人均國內生產總值1000－3000美元的關鍵階段。從一些國家和地區的發展曆程來看，這也是“黃金發展時期”和“矛盾凸顯時期”的臨界點、“拉美化”現象就給了我們警示，在改革發展關鍵時期，經濟社會發展也出現了許多新趨勢新特點，社會總體和諧的情況下存在不少影響社會和諧的矛盾和問題，如何不斷化解各種矛盾，順利渡過改革發展關鍵時期，加強社會建設，構建和諧社會就成為時代發展的迫切要求。世界多極化、經濟全球化背景下也要求社會和諧。特別需要指出的是，經濟全球化帶來的不僅僅是對世界各國經濟的影響，還會對各國政治、文化甚至人們的思維方式產生影響。麵對世界多極化、經濟全球化的發展趨勢，我國要始終保持國家統一、民族團結、社會穩定的局麵。在這樣的背景下，加強我國社會建設，促使社會和諧發展就成為迫切的要求。此外，構建和諧社會是鞏固黨執政的社會基礎，實現黨執政的曆史任務的必然要求。隨著世界多極化、經濟全球化趨勢的推進，特別是我國處在改革發展的關鍵時期，怎樣解決我國經濟社會發展中錯綜複雜的各種矛盾已成考驗中國共產黨執政能力的重大課題，如果能妥善處理各種社會矛盾，就會有助於提高中國共產黨的執政地位，也有助於中國共產黨領導中國人民繼續進行中國特色社會主義建設，反之則可能給黨和建設帶來嚴重危害。麵對現實，構建社會主義和諧社會尤顯迫切。
2004年9月中國共產黨第十六屆中央委員會第四次全體會議召開，全會審議通過了《中共中央關於加強黨的執政能力建設的決定》，在這個《決定》中，黨中央第一次提出了“構建社會主義和諧社會”，把提高黨的執政能力與構建和諧社會聯係起來，這意味著中國共產黨在推動中國特色社會主義建設中，在改革發展的關鍵時期，已強烈意識到社會建設的重要性，認識到要把和諧社會建設擺在重要位置，構建社會主義和諧社會隨之也提到了黨的議事日程。
2005年2月，胡錦濤在省部級主要領導幹部提高構建社會主義和諧社會能力專題研討班上發表了重要講話，胡錦濤在講話中深刻分析了國內外形勢，認為構建社會主義和諧社會，關係到最廣大人民的根本利益，關係到鞏固黨執政的社會基礎、實現黨執政的曆史任務，關係到全麵建設小康社會的全局，關係到黨的事業興旺發達和國家的長治久安。在講話中第一次明確提出了中國特色社會主義事業的總體布局，由社會主義經濟建設、政治建設、文化建設三位一體發展為社會主義經濟建設、政治建設、文化建設、社會建設四位一體。同時講話也指示，我們所要建設的社會主義和諧社會，應該是民主法治、公平正義、誠信友愛、充滿活力、安定有序、人與自然和諧相處的社會。這實際上就是社會主義和諧社會的基本特征。在講話中還提出了搞好構建社會主義和諧社會的各項工作。胡錦濤的講話中進一步統一了全黨的認識，也使全黨更深刻認識構建社會主義和諧社會的重大意義。