1968年，按照以色列的兵役法，拉賓功成身退，退出現役。告別了給他帶來眩目光圈的軍營。他沒有按照父母的殷殷希望，回到基布茲去作一名農業工程師，而是步入政界，擔任了梅厄政府的駐美大使，開始了他長達五年的外交官生涯。這是一個菲常關鍵的職務，當時美國國務卿基辛格正在中東地區進行穿梭外交，謀求阿以和解。拉賓與這位蜚聲世界的猶太兄弟保持了良好的關係。他自己也自從參加羅得島的阿以和談以後，再次投入了中東和平事業。
1973年，拉賓回國，出任勞工部長。第四次中東戰爭後，拉賓當選為議員，次年當選為工黨領導人，大選中，工黨獲勝組閣，拉賓出任內閣總理。
作為以色列第一位土生土長，並且出身於軍營的總理，拉賓給處於第四次中東戰爭雖勝猶敗的以色列帶來了一股生氣。是的，以色列在這次戰爭中人員損失慘重，拉賓對於這個問題有自己的看法，人要是都打光了，還要土地來幹什麼？同時，這次戰爭也給了以色列一個警告，阿拉伯國家也可以打閃擊戰，也可以主動攻擊以色列。拉賓知道，目前的中東，誰也不可能吞掉誰。以色列要得到永久的和平，猶太人要得到永久的安靜，隻有和平一條路。
任總理期間，拉賓為中東和平作出了不懈的努力。他采取了一種積極而務實的對外政策。分別與敘利亞和埃及簽訂了“軍事脫離”協議，又在美國調解下簽訂了著名的《埃以雙方諒解備忘錄》，他還數次訪問約旦，為後來的約旦與以色列的和解鋪平了道路。尤其值得稱道的是在任總理期間，拉賓為埃以和解做出了巨大的努力，在他辭職前，他設法和埃及總統薩達特取得了聯係，為繼任的總理貝京最終實現埃以和解和薩達特出入意料地訪問耶路撒冷鋪平了道路。
然而在1976年12月，拉賓卻因在安息日組織軍官及部分內閣成員歡迎美國的F-15飛機，觸怒了在以色列頗有影響的宗教政黨，有違聖訓是不可饒恕的。雪上加霜的事是，四個月後，拉賓夫人利婭非法在美國存款一事被揭露，拉賓被迫辭職。
1984年9月，拉賓東山再起，出任國防部長，1990年卸任。此時，世界和平的大趨勢已經出現，東歐與蘇聯不再與西方對抗，海灣戰爭使中東的敵友格局重組。這一切都深深影響著拉賓。1992年，拉賓再度當選為工黨主席，同年6月，工黨在大選中獲勝，拉賓二度出任以色列總理。
就任總理以後，拉賓更是為推動中東和平進程做出了積極的努力。他立即開始與阿拉法特直接接觸，並接受了以土地換和平的主張，試圖積極謀求最終解決阿以爭端。
1993年1月，挪威首都奧斯陸郊外的一座古老莊園。屋內的熊熊爐火與室外的滾滾寒流構成了強烈對比。在厚重的窗簾之下，一個世紀以來的仇敵，中東兩大對立陣營的領導人，阿拉法特和拉賓坐在了一起……
8個多月過去了，1993年8月29日，耶路撒冷，以色列的內閣會議室裏，總理拉賓用平靜的語調向部長門宣布，經過多次談判，以色列外交部長佩雷斯已於8月20日在挪威首都奧斯陸與巴勒斯垣解放組織草簽了秘密協議，加沙和傑裏科地區將交給巴勒斯坦人自治。從此，最為棘手的巴勒斯坦人和猶太人的“家”的問題已經看到了最終解決的曙光。
1993年11月13日，明麗的秋陽照耀著美國白宮的南草坪。巴以第一個和平協議——加沙一傑裏科自治原則宣言的簽字儀式在這裏舉行。在全世界的注目之下，拉賓同另一位中東和平的締造者、巴勒斯坦人的領袖阿拉法特終於握手言和，化幹戈為玉帛。
由於他對中東和平的巨大貢獻，在國際上贏得了廣泛的讚譽，1993年9月17日聯合國教科文組織授予拉賓“博瓦尼和平獎”。1994年，拉賓獲諾貝爾和平獎，以表彰他為推動中東和平進程所作的努力。1994年他又獲“阿斯圖裏亞斯王子1994年度國際合作獎”。
1995年，拉賓又進一步與阿拉法特會談。新年伊始，他就公開說，他希望今年能成為以色列與阿拉伯世界達成全麵和解的“和平之年”。
1995年9月28日，拉賓再次來到美國白宮的南草坪，同阿拉法特共同簽署了關於擴大巴勒斯坦自治範圍的《塔巴協議》。根據協議，以色列將在10天後開始從約旦河西岸撤軍，6個月後完成第一階段撤軍，巴勒斯坦權力機構管轄的範圍將擴大到西岸27%的地域。至此，巴勒斯坦國的雛形已經出現。以色列極右勢力則哀歎：“大以色列之國”從此破滅……
對此，正如拉賓在他的最後的和平演講中所說的那樣：
“我們已經找到了一位和平夥伴，那就是巴勒斯坦解放組織。它過去是敵人，現在它已經停止恐怖活動。沒有和平夥伴就沒有和平。為了解決以阿衝突中最複雜、最持久、最敏感的部分——巴以衝突，我們要作出自己的努力，巴解也要作出自己的努力。我相信，在這裏的絕大多數人支持和平，願意為和平去冒任何危險……”