故事發生在1947年，銀行家安迪被指控槍殺了妻子及其情人，被判無期徒刑，關在鯊堡監獄裏。
好長時間以來，安迪不和任何人接觸，在大家抱怨的同時，他在院子裏很悠閑地散步，就像在公園裏一樣。老犯人瑞德是監獄中的“權威人物”，隻要你付得起錢，他幾乎有辦法搞到任何你想要的東西：香煙、糖果、酒、甚至是大麻。一個月後，安迪請瑞德幫他搞的第一件東西是一把小石錘，他的解釋是想雕刻一些小東西以消磨時光，並說自己有辦法逃過獄方的例行檢查。不久，瑞德就玩上了安迪刻的國際象棋。之後，安迪又搞了一幅麗塔·海華絲的巨幅海報貼在了牢房的牆上。
由於安迪精通財務製度方麵的知識，很快使他擺脫了獄中繁重的體力勞動和其他變態囚犯的騷擾。不久，聲名遠揚的安迪開始為越來越多的獄警處理稅務問題，同時他也逐步成為監獄長諾頓洗黑錢的重要工具。由於安迪不停地寫信給州長，終於為監獄申請到了一小筆錢用於監獄圖書館的建設。監獄生活非常平淡，總要自己找一些事情來做，安迪聽說瑞德原來很喜歡吹口琴，就買了一把送給他。夜深人靜之後，總可以聽到悠揚的口琴聲回蕩在監獄裏。
一個年輕犯人的到來打破了安迪平靜的獄中生活：這個犯人以前在另一所監獄服刑時聽說過安迪的案子，他知道誰是真凶。但當安迪向監獄長諾頓提出要求重新審理此案時卻遭到了斷然拒絕，並受到了單獨禁閉兩個月的嚴重懲罰。為了防止安迪獲釋，諾頓甚至不惜設計害死了知情人！
麵對殘酷的現實，安迪變得很消沉……一天，他對瑞德說：“如果有一天，你可以獲得假釋，一定要到某個地方替我完成一個心願。那是我第一次和妻子約會的地方，把那裏一棵大橡樹下的一個盒子挖出來，到那時你就知道是什麼了。”當天夜裏，風雨交加，雷聲大作，已得到靈魂救贖的安迪越獄成功。原來20年來，安迪每天都在用那把小石錘挖洞，然後用海報將洞口遮住。安迪出獄後，領走了諾頓存的一部分黑錢，並告發了他貪汙受賄的真相。而諾頓在自己存小賬本的保險櫃裏見到的是安迪留下的一本《聖經》，裏邊挖空的部分放著一把幾乎磨成圓頭的石錘。
瑞德獲釋了，他在橡樹下找到了一盒現金，兩個老朋友終於在墨西哥陽光明媚的海濱重逢了。