Po studiach pracował na kolei jako specjalista od techniki informacyjnej.
W 1990 roku współzakładał Ruch Chrześcijańsko-Demokratyczny (KDH) i w tym samym roku zasiadł w czechosłowackim parlamencie.
W następnym roku objął stanowisko wiceministra transportu i poczty Słowacji. W 1992 roku został deputowanym Słowackiej Rady Narodowej, która była zalążkiem parlamentu Słowacji. Dwa lata później po raz drugi został ministrem transportu, poczt i robót publicznych.
Po zwycięstwie w wyborach Vladimira Meciara w 1994 roku Dzurinda wrócił do opozycji. W 1997 roku został rzecznikiem, a rok później przewodniczącym Słowackiej Koalicji Demokratycznej (SDK) utworzonej przez pięć opozycyjnych partii: Ruch Chrześcijańsko-Demokratyczny, Słowacką Partię Demokratyczną, Słowacką Unię Demokratyczną, Socjaldemokratyczną Partię Słowacji oraz Słowacką Partię Zielonych.
Po dymisji rządu Meciara w październiku 1998 roku Dzurinda został premierem. Przeprowadził szereg reform, do kraju ponownie zaczęły spływać zagraniczne inwestycje, Słowacja wróciła do rozmów o wstąpieniu do NATO i Unii Europejskiej.
W styczniu 2000 roku Dzurinda założył nową partię, Słowacką Unię Demokratyczną i Chrześcijańską (SDKU).
Po wyborach we wrześniu 2002 roku SDKU z KDH, Partią Koalicji Węgierskiej (SMK) oraz liberałami z Przymierza Nowego Obywatela stworzyły koalicję i Dziurinda ponownie został premierem. Dwa miesiące później Słowacja wstąpiła do NATO, a 1 maja 2004 roku do Unii Europejskiej.
W czerwcu 2006 roku partia Dzurindy przegrała wybory parlamentarne. W lipcu Dzurinda wraz ze swoim rządem musiał podać się do dymisji. Nowym premier został Robert Fico z populistycznej partii Smer.