Kromě úřadu premiéra zastával celou řadu ministerských postů v izraelské vládě (např. ministra obrany, vnitra, práce, školství, zdravotnictví). Ve svých politických názorech se dostal od razantního potírání první palestinské intifády politikou „železné pěsti“ až po mírové řešení izraelsko-palestinského konfliktu. Výrazným způsobem se zasadil o schválení mírových dohod z Osla, historicky prvních mírových dohod s palestinskou reprezentací, díky nimž vznikla Palestinská samospráva. V 70. letech došlo za jeho vlády k podpisu dohody s Egyptem, která později umožnila dojednání mírové smlouvy s touto zemí. Díky jeho přičinění Izrael dále v roce 1994 uzavřel mírovou smlouvu s Jordánskem. Za jeho mírové úsilí mu byla spolu s Šimonem Peresem a Jásirem Arafatem téhož roku udělena Nobelova cena míru. Jeho mírové aktivity a územní ústupky v rámci mírových jednání však rozdělily izraelskou společnost. Mezi jádro tvrdých odpůrců Rabinovy politiky, kam se řadila především izraelská pravice a radikální náboženské kruhy, patřil i ortodoxní izraelský student Jig'al Amir, který na Rabina v roce 1995 spáchal atentát. Zraněním ze tří výstřelů z pistole Rabin po převozu do nemocnice podlehl.