Jego ojciec był deputowanym i ministrem w rządzie Pierre Mendes-France'a. Jean-Pierre Raffarin przez wiele lat zajmował się, zgodnie ze zdobytym wykształceniem, marketingiem. Działalnością polityczną zajął się w połowie lat 70. Pracował m.in. w ministerstwach w okresie prezydentury Valery'ego Giscaed d'Estaing. W 1988 r. został przewodniczącym rady regionu Poitu-Charente. W latach 1989-1995 był eurodeputowanym. Od 1995 do 1997 r. kierował ministerstwem ds. małych przedsiębiorstw w rządzie Alaina Juppe. Był sekretarzem generalnym centrowej UDF, a następnie wiceszefem Demokracji Liberalnej. Od 1997 r. jest senatorem tej partii.

Po odrzuceniu projektu konstytucji Unii Europejskich w referendum 29 maja 2005 został odwołany ze stanowiska szefa rządu i zastąpiony przez dotychczasowego ministra spraw wewnętrznych Dominique'a de Villepina.