1988年1月19日，拉賓宣布對阿拉伯國家被占領土起義者實行“鐵拳政策”，要求對扔石頭的巴勒斯坦人進行狠狠打擊。以軍得到這個指示，大開殺戒，對“鬧事者”使用催淚彈、橡皮子彈和殺傷子彈。有關資料顯示，鐵拳政策在1987～1992年中使1775名巴勒斯坦人喪生，幾千人被打傷或致殘。
1992年2月，拉賓擊敗佩雷斯當選為工黨領袖和總理候選人工黨在6月23日大選中擊敗利庫德集團成為議會第一大黨。7月份新政府獲得議會信任，拉賓擔任總理兼國防部長。
拉賓第2次出任政府總理後，以實現中東和平為己任。在7月13日的就職演說中宣布：“和平與安全問題是新政府的當務之急。”他重申，他的政府將把中東和平及結束以阿衝突放在所有政府工作的首位，采取現實、大膽和靈活的步驟來推動中東和談。
作為第一步，拉賓提出以色列願意討論約旦河西岸和加沙地區巴勒斯坦人的自治問題。上台不久，拉賓立即向阿拉伯國家發起了和平攻勢，表示願意邀請敘利亞總統和黎巴嫩總統、約旦國王到耶路撒冷討論和平。同時他也準備去這些國家進行國事訪問。他接著宣布凍結100多個被占領土上的猶太移民定居點，這包括為新移民建造5000套住房工程，並承諾以色列從戈蘭高地部分地撤出是可能的。然而，拉賓在兩個問題上寸步不讓：堅持要把整個耶路撒冷作為以色列不可分割的首都，反對在加沙和西岸建立一個獨立的巴勒斯坦國，並強調要對暴力和巴勒斯坦人的反抗活動予以嚴厲掃擊。拉賓因此成為以色列工黨內的“鷹爪鴿派”人物。
巴以和平進程
盡管如此，拉賓的和平舉措有利於推動以阿和談。1993年9月13日，巴以雙方在美國華盛頓正式簽署具有曆史意義的關於加沙和傑裏科《臨時自治安排的原則宣言》，拉開了巴以和解的序幕一對中東和平進程產生重大影響，並迎來了1994年中東和平的一連串突破。
1994年5月4日，巴勒斯坦解放組織和以色列簽署了在加沙和傑裏科實行自治的最終協議，使巴勒斯坦問題取得實質性進展。11月，以色列開始向巴權力機構移交在西岸的行政權力。到1994年底，約旦河西岸的衛生、教育、旅遊、社會事務和稅收管理權也陸續移交。
與此同時，以色列和約旦的外交關係實現完全正常化。1994年7月25日，拉賓總理與侯賽因國王在華盛頓簽署了《華盛頓宣言》。10月26日，約以兩國正式簽署和平條約，結束了兩國長達50年的戰爭狀態。11月27日，以約宣布建立大使級外交關係。由於拉賓、佩雷斯和阿拉法特的共同努力，中東和平取得進展，因此，1994年3人共同分享了諾貝爾和平獎。
在中東和平晨曦在望時，猶太右翼極端分子接連製造恐怖活動。尤其是以巴雙方在1995年9月28日簽署的塔巴協議後，以色列極右勢力和宗教極端分於反對以巴協議的活動驟然增加。他們將矛頭直指拉賓和拉賓政府。1995年在11月4日舉行的支持拉賓政府中東和平政策的聲勢浩大的和平群眾集會上，拉賓遭到猶太教宗教極端分子的暗殺。數小時後這位後半生為中東和平事業奔波的政治家在醫院裏終因搶救無效而逝世，享年73歲。