Po studiach wykładał zarządzanie na państwowych uczelniach. W latach 1983-1991 pracował w Islamskim Banku Rozwoju. W 1991 r. został wybrany do parlamentu z ramienia Partii Dobrobytu (Refah Partisi). Od 1991 r., przez cztery lata, był członkiem Komisji Planowania i Budżetu parlamentu tureckiego. W 1995 r. uzyskał reelekcję. Od 1996 r. do 1997 r. był rzecznikiem prasowym rządu.
W 1999 r. Gül został ponownie wybrany do parlamentu, tym razem z ramienia Partii Cnoty (Fazilet Partisi). W następnym roku przegrał walkę o przewodnictwo w partii. Odsunął się więc od partyjnej retoryki i skierował w stronę formującego się, nowego ruchu, na bazie którego w sierpniu 2001 r. utworzono nowa konserwatywną Partię Sprawiedliwości i Rozwoju (AKP, Adalet ve Kalkinma Partisi). Został jej wiceprzewodniczącym.
Po wyborach 3 listopada 2002 r. Gül ponownie zasiadł w poselskich ławach. Został wybrany przez AKP na stanowisko "przejściowego" premiera, do czasu kiedy na tym stanowisko mógłby zasiąść szef partii, Recep Tayyip Erdogan . Nastąpiło to 14 marca 2003 r. Gül natomiast został wicepremierem i ministrem spraw zagranicznych.
W tym czasie doszło w Turcji do ataków terrorystycznych, m.in. w Stambule i Kuşadasi. Gül zapowiedział wzmocnienie środków bezpieczeństwa. Prowadził również negocjacje z Unią Europejską na temat otwarcia rozmów negocjacyjnych.
28 sierpnia 2007 r. parlament Turcji wybrał go na prezydenta kraju.