Związał swoją karierę z armią, dochodząc do stopnia generała. Brał udział w sześciodniowej wojnie w 1967 r. W 1984 r. po raz pierwszy został wybrany do Knesetu. W latach 1992-1996 pełnił funkcję ministra budownictwa. W 1999 r. został wicepremierem i ministrem komunikacji w rządzie Ehuda Baraka. Od marca 2001 r. jest ministrem obrony w gabinecie Ariela Szarona. Jest szefem Partii Pracy.
Po wyborach w 2006 roku został ministrem infrastruktury w rządzie Ehuda Olmerta, ponieważ weszła do niego także Partia Pracy.