到18世紀的時候，人們為什麼想要發明蒸汽機呢?這是因為從17世紀以來煤炭已經成為冶煉鋼鐵的主要燃料，對煤炭的需要日益增加，礦山數量增加，礦井也越挖越深。為了能正常地進行采煤，就必須不斷地抽出礦井裏的水。當時隻能靠馬拉轆轤推動水泵抽水。為此，不少礦山都要飼養幾百匹馬，這種辦法既麻煩又費錢。人們急需尋找一種更有效的排水動力機械，由此產生了“以火提水”的設想，就是要創造一種以火力或熱能推動的排水泵。
第一台實用的蒸汽泵是由英國的一個叫薩弗裏的上尉於1698年首先發明的。他繼承了前人的發明成果，利用蒸汽冷凝使一個容器產生真空，在大氣壓力作用下，將井下水吸入容器中，再通入蒸汽，利用蒸汽壓力把容器裏的水排出。這樣循環操作就可以把井水抽到井外。但由於它效率低，加之沒有活塞，容易發生爆炸事故，所以沒有引起人們的重視。1705年，蘇格蘭鐵匠紐可門發明了一種比較實用的帶活塞的蒸汽機。它先向汽缸通入蒸汽，推動活塞向上運動，然後再向汽缸通入冷水，使蒸汽冷凝，缸內形成真空，這樣便可以利用大氣壓力使活塞反向運動，以此帶動水泵排水。紐可門蒸汽機基本上滿足了礦山抽水的需要，幾乎在英國所有的礦井都應用了這種蒸汽機，實際上它隻不過是一台蒸汽排水機。
瓦特所要修理的正是這樣的蒸汽機。他也就是在這樣的基礎上開始了對蒸汽機的研究。經過對紐可門機的分析研究，聯係到他在聽他的老朋友布萊克講課時，所了解到的關於潛熱和比熱的知識，受到啟發，終於找到了紐可門機的症結所在：紐可門蒸汽機利用向汽缸噴冷水獲得真空，這樣活塞每上下運動一次，汽缸都要冷卻一回；第二次進入的蒸汽首先要加熱汽缸，待汽缸本身的溫度升高後，才能推動活塞。這樣一方麵因蒸汽浪費造成了效率低，另一方麵則因時間耽擱造成動作慢且不連續。由此，他得出結論：為了使蒸汽有效地推動活塞，首先必須設法使汽缸保持與進入的蒸汽相同的溫度，其次必須使進入的蒸汽盡快冷凝，以獲得缸內負壓或真空。通過上述分析，使瓦特明確了改進的方向。采用什麼辦法達到這兩項要求呢?他針對這一問題開始了新的研究，並經常利用瓶子、竹筒等工具進行試驗，遇到不懂的問題就四處向人請教，簡直達到了廢寢忘食的程度，一度使一些人誤認他的神經失常了。轉眼將近兩年的時間過去，對於如何改進，瓦特仍是感到一籌莫展。
1765年5月的一個星期日，瓦特正因試驗沒有取得任何進展而灰心喪氣的時候，新婚不久的妻子馬格麗特·米拉——一位溫柔而有主見的女性，見他日夜苦思，食不甘味，夜不成眠，就勸他不要把自己搞得太緊張了，利用假日到郊外玩一玩，散散心。於是，瓦特接受了妻子的建議，信步來到了城外的草原上。他抬頭向遠處的天空望去，見片片白雲在湛藍的天空下飄動。這白雲多像蒸汽啊!一想到蒸汽，瓦特的腦子又進入了工作狀態。隨著腳步不自覺地繼續前移，瓦特的腦海裏突然躍出了一個想法：蒸汽本身是有彈性的物體，當蒸汽膨脹後，一定會往真空的地方移動。如果在汽缸外另設置一個容器，蒸汽就可以進入這個容器內進行冷卻，這樣，無需再冷卻汽缸，蒸汽就可以冷縮，而汽缸也就可以保持在高溫狀態了。
猶如藝術家獲得靈感一樣，這一想法使瓦特興奮不已。他帶領幾個助手按這一想法開始進行試驗，經過夜以繼日的努力，好不容易造出了一台帶有分離冷凝器的蒸汽機。不料，這台蒸汽機幾乎不能工作，效果反而不如紐可門蒸汽機，原因即在於汽缸和活塞間的密封不好，四處漏汽。
由於試驗的耗費，使瓦特的經濟狀況倍感艱辛，無力繼續試驗。從天性上說，瓦特本是個性格憂鬱的人，而且對痛苦和不安有些神經質，一碰上不順利的事就會表現出心灰意冷的情緒。每遇到這種情況，妻子米拉總是溫柔地鼓勵他，為此，瓦特十分感激她，把她當成自己的主心骨。這次又是在妻子的鼓勵下，瓦特又重振精神，在別人的資助下，繼續試驗。可是接著的數次試驗，也都因材料和工藝問題未很好解決而失敗了。恰在這時，伯明翰一位有遠見的實業家馬瑟·博爾頓看到了蒸汽機的潛在用途，主動請瓦特到他的工廠裏去進行發明試驗，並給以經濟上的資助。在這裏，瓦特又用了三年多的時間反複試驗，並在有經驗的製造槍膛的工人幫助下，製造出了較精密的汽缸和活塞，終於在1769年製成了裝有冷凝器的新型蒸汽機，在試轉中獲得了預期的效果。冷凝器的發明是瓦特對蒸汽機改進的第一大貢獻。
普通應用動力機的發明
瓦特的蒸汽機與紐可門蒸汽機相比，耗煤量減少了3/4，效率卻提高了6倍，其他各項性能均得到明顯改善。但由於它仍是一部“單向式”的蒸汽機(即隻在活塞一端進汽，靠大氣壓力實現反向運動)，所以它隻能滿足礦山排水的需求，還無法作為一般動力機在工業各部門普遍應用。
此時的英國，正處於技術大變革的前夜，一場人類曆史上空前的工業革命正在這裏拉開序幕。這場革命的開端是由紡織機的改進開始的。一批工匠出身的傑出發明家如凱依、哈格裏沃斯、阿克萊特等人，相繼發明了飛梭、珍妮紡紗機、水力織布機等等，使英國紡織業的勞動生產率提高了幾十倍甚至上百倍。但是，就它們的動力來看，還主要是人力和水力，由於受生理極限、地理、季節等因素的限製，使動力問題成為製約勞動生產率進一步提高的“瓶頸”。
這樣一種社會環境促使許多人開始注意能否用蒸汽機為紡織業提供動力的問題。這當然也是瓦特完成了對蒸汽機的初步改進之後所關心的首要問題。事實上，瓦特在改進了單向式蒸汽機後並沒有停步，他又全身心地投入了新的研究試驗當中。經過十多年的努力，1782年瓦特終於發明了具有偉大曆史意義的“雙向式”蒸汽機。這種蒸汽機通過一個滑動閥的控製，在活塞的兩端輪流進汽、排汽，推動活塞作連續而均勻的往複運動。瓦特在1784年4月為“雙向式”蒸汽機填寫的說明書中，不再把它的蒸汽機看作是為特殊目的所進行的發明，而是把它看作是大工業可以普遍應用的動力機。
為了實現蒸汽機在工業上的普遍應用，還必須把活塞的往複直線運動轉變為旋轉運動。因此，瓦特同時又發明了曲柄連杆機構。這樣，活塞的往複運動，通過曲柄連杆就轉化成了主軸上的旋轉運動。“雙向式”蒸汽機和曲柄連杆機械的結合，使蒸汽機成為名副其實的“萬能發動機”，即可普遍適用於工業生產。這兩項發明成為瓦特對蒸汽機的第二大貢獻。