Rutte w latach 1979-1985 uczęszczał do gimnazjum o profilu artystycznym. Studiował historię na Uniwersytecie w Lejdzie do 1992, choć jego początkowym zamysłem była kariera pianisty. Studia łączył z działalnością w organizacji młodzieżowej VVD, której był przewodniczącym w latach 1988-1991.
Po studiach wkroczył w świat biznesu, pracując jako menadżer w firmie Univeler. Do 1997 pracował w departamencie zasobów ludzkich. Od 1997 do 2000 był menadżerem Van den Bergh Nederland, spółki córki Univelera. Po 2002 został dyrektorem zasobów ludzkich w innej spółce córce, IgloMora Groep.
W 2002 Rutte został mianowany wiceministrem (sekretarzem stanu) spraw społecznych i pracy w pierwszym gabinecie Jana Petera Balkenende. Stanowisko zajmował do wyborów w 2003. Po wyborach Rutte był krótko członkiem izby niższej parlamentu, między styczniem a majem 2003. 17 czerwca 2004 Rutte został sekretarzem stanu ds. szkolnictwa wyższego i nauki. Jako wiceminister starał się uczynić system szkolnictwa wyższego bardziej konkurencyjnym i mocniej powiązać go z zasadami rządzącymi rynkiem.
W 2006 Rutte był partyjnym menadżerem w czasie kampanii w wyborach lokalnych. 31 maja 2006 został wybrany na zjeździe VVD nowym liderem partii. Zdobył 51,5% głosów poparcia.
W ostatnich wyborach parlamentarnych w Holandii partia Ruttego wygrała, a jej lider prawdopodobnie zostanie nowym szefem rządu.