受江上青的影響，江澤民在上大學時便熱心於學生運動。他於1946年4月加入中國共產黨，主要從事地下工作。
江澤民畢業於上海交通大學電機係，畢業後，長期在機械研究和工業部門任職。從上大學直到1955年，他一直生活在上海，在上海結婚成家。
江澤民的妻子王冶坪也是江蘇揚州人，與江澤民從小青梅竹馬。王冶坪的父親當時在上海經營一家工藝美術品製作工場，收入不算豐厚但過日子也不困難。江澤民與王冶坪解放後結婚，婚後生有兩個兒子。
1956年，江澤民奉命前往蘇聯莫斯科斯大林汽車廠學習。一年之後回國，可沒能留在上海，而是調往長春第一汽車製造廠工作，擔任動力處副處長，副總動力師，動力分廠廠長。
不久，江澤民又調回上海，與家人團聚，擔任了第一機械工業部上海電器科學研究所副所長兼總工程師。與此同時，全家人分到了一套房子，實現了夢寐以求的全家團圓的願望。新房在上海曹楊新村普通職工宿舍，這一住就是30年。王冶坪也隨丈夫一起調入研究所工作，任文書，後來任研究室副主任、主任。
1966年6月，江澤民再一次離開上海，離開妻子和兒子。他先是調到武漢，擔任熱工機械研究所所長兼代理黨委書記。同年9月，擔任黨委書記。他與一位大學畢業生同住一個房間，除了工作，便以讀書來打發時間，消弭對妻子和家庭的思念。
1970年，江澤民由於政績斐然，被中央調往北京，出任第一機械工業部外事局長。江澤民任此職，除了他專業突出，工作勤懇之外，還得力於他對英文的精通。後來，他又出任了第一機械工業部駐羅馬尼亞專家組總組長。
“文革”期間，和所有的領導幹部一樣他也受到審查，好在他家庭出身沒有問題，又基本上是個搞科研的知識分子，所以受的衝擊不大。
1980年，江澤民受到提升，擔任了國家進出口管理委員會、國家外國投資管理委員會副主任兼秘書長、黨組成員。
兩年之後，江澤民出任電子工業部第一副部長、黨組副書記。很快他又被任命為電子工業部部長兼黨組書記直至1985年回上海任市長。
江澤民靠著自己的踏實和努力工作，事業平穩地發展。他的背後有一位了不起的女性，那就是王冶坪。
在1985年以前的30年，不論丈夫官至何位，王冶坪始終帶著兩個兒子和老母親居住在曹楊新村的職工宿舍。她精心地培養孩子，照顧母親，每天匆匆忙忙去趕公共汽車上班，下班後手不閑地忙家務。她生活極為簡樸，難得買件新衣服。菜市場上，她也會像其他上海市民一樣去討價還價。她家裏有七八口人要吃飯。
在單位，王冶坪給人和藹、穩重之感，與同事之間相處得非常好。
1985年，江澤民任上海市長後，全家從住了30年的曹楊新村搬到上海的“中南海”――康平路高幹宿舍。王冶坪傷感地離開了與她相處多年、給過她許多幫助和照顧的鄰裏。
江澤民有兩個兒子，長子名叫江民康，次於叫江綿康。兩個孩子生在上海，長在上海。在兒子最需要父親的時候，江澤民為工作離開了他們。母親用那柔弱的肩膀撐起了整個家，讓兒子在充滿了愛的環境下健康長大。當江澤民回到上海時，大兒子江民康已做了父親。
最讓王冶坪欣慰的是，兩個兒子很有出息，很爭氣。老大在“文革”期間，服從組織，上山下鄉，不僅表現好而且刻苦讀書。王冶坪不溺愛兒子，她認為別的孩子能吃的苦自己孩子也能吃。丈夫的經曆告訴她，好男兒誌在四方。
後來恢複高考，老大江民康考上了大學，以後又考上研究生，再以後赴美作了留學生。老二江綿康參軍，退伍後進了工廠當了一名普通工人，通過自學考入職工大學，並到德國西門子公司進修學習，期滿後回國。
江澤民出任上海市市長，深感責任重大。他坦然地說：“我長期在基層和中央部門工作，沒有地方、城市工作的經驗，特別是缺乏上海這樣一個大城市的工作經驗，今後要虛心學習。”
當得知中央要調派他去上海任職時，江澤民確實有些顧慮。上海那麼大，又是中國的東大門，自己能領導好嗎？雖然這麼多年來一直在地方和中央機關主持工作，但畢竟帶有專業性，與什麼都管的市長有所不同。
到上海後，他曾說：“我與前任的老市長不同，我是一位平民市長。”意思是，自己沒有扛過槍打過仗，也沒有爬雪山過草地的經曆，自己是從一名普通市民成為上海市市長的。
也許是出於一種沒打過仗的遺憾之情，江澤民在任上海市委書記期間，盡管工作千頭萬緒，可對軍隊和國防後備力量建設傾注了滿腔的心血。他還是上海武警部隊的政委。