Od OKP do UW
W 1989 został posłem X kadencji Sejmu z ramienia Obywatelskiego Klubu Parlamentarnego. W 1991 roku wstąpił do Unii Demokratycznej i po raz drugi został wybrany do Sejmu. Przewodniczył komisji do spraw zbadania archiwów Służby Bezpieczeństwa (tzw. komisji Rokity). Ówczesna premier Hanna Suchocka powołała go na szefa Urzędu Rady Ministrów. W 1994 roku wstąpił do nowopowstałej Unii Wolności. Rok później powołał Inicjatywę 3/4, która bezskutecznie próbowała nie dopuścić do zwycięstwa Aleksandra Kwaśniewskiego w wyborach prezydenckich.

AWS
W 1997 roku opuścił Unię Wolności i współtworzył Stronnictwo Konserwatywno-Ludowe, które przystąpiło do Akcji Wyborczej "Solidarność". We wrześniu został z jej ramienia posłem III kadencji Sejmu (był szefem komisji spraw wewnętrznych i administracji). W 2000 roku został prezesem SKL.

PO
Po powstaniu w 2001 roku Platformy Obywatelskiej początkowo był przeciwny włączeniu do niej SKL, ale zmienił zdanie po fatalnych notowaniach AWS. We wrześniu 2001 r. został posłem PO (otrzymał w Krakowie 20251 głosów). W następnym roku kandydował na urząd prezydenta Krakowa, ale przegrał z kandydatem SLD Jackiem Majchrowskim. Od 2003 roku jest przewodniczącym klubu parlamentarnego PO oraz członkiem zarządu krajowego partii.

We wrześniu 2003 r. podczas debaty sejmowej nad projektem Traktatu Konstytucyjnego UE, Rokita mówił, że Polska nie może zgodzić się na to, aby zostały pogorszone jej warunki uczestnictwa w UE i musi bronić postanowień Traktatu z Nicei. "Nicea o muerte. Nicea albo śmierć" - mówił wtedy Rokita z trybuny sejmowej. "Nicea albo śmierć" stało się jednym z najczęściej cytowanych wyrażeń w debatach dotyczących UE.

Zdobył ogromną popularność zasiadając w komisji śledczej ds. afery Rywina. Była to pierwsza komisja śledcza, jej obrady były transmitowane. Rokita uznawany był za jednego z najlepszych "śledczych" z komisji. Popularność którą wówczas zdobył, przełożyła się również na notowania PO - z kilkunastu procent skoczyły w sondażach do ok. 30 proc.

Przed wyborami parlamentarnymi 2005 r., kiedy PO prowadziła w sondażach, Rokita typowany był na premiera rządu, który Platforma miała formować po wyborach - jak planowano w koalicji z PiS. W swym okręgu wyborczym w Krakowie promował się nawet billboardami z napisem "premier z Krakowa". Ostatecznie jednak to PiS wygrał wybory. Rokita otrzymał 71145 głosów i po raz kolejny zdobył mandat poselski. To on z ramienia PO prowadził rozmowy z ówczesnym kandydatem PiS na premiera Kazimierzem Marcinkiewiczem. Do zawarcia koalicji PO-PiS jednak nie doszło. Platforma przeszła do opozycji, a Rokita formował "gabinet cieni" PO.

W obecnej, kończącej się kadencji dochodziło często do spięć między Rokitą a innymi liderami PO. Po zmianach we władzach PO, Rokita przestał być wiceszefem partii, natomiast miał zostać szefem klubu parlamentarnego Platformy. Ostatecznie jednak do tego nie doszło.

W kampanii samorządowej 2006 r. Rokita w drugiej turze wyborów prezydenta Krakowa postanowił poprzeć kandydata PiS Ryszarda Terleckiego i wystąpił nawet w spocie reklamowym. Wywołało to ostre komentarze w PO, również ze strony szefa partii Donalda Tuska. Wielokrotnie pojawiały się spekulacje, że Rokita może odejść z PO i współtworzyć np. z b. premierem Kazimierzem Marcinkiewiczem nowe ugrupowanie. Sam Rokita zawsze jednak podkreślał, że jego miejsce jest w PO. Mówił nawet, że gdyby Platformy nie było należałoby ją wymyślić.

14 września 2007 r. ogłosił, że nie będzie kandydował w nadchodzących wyborach parlamentarnych i zamierza wycofać się z życia publicznego. To konsekwencja decyzji jego żony Nelly, która tego samego dnia została doradcą prezydenta Lecha Kaczyńskiego. Po wyborach nadal nie udziela się w życiu publicznym. Zadeklarował, że nie jest już politykiem.

Ukończył prawo na Uniwersytecie Jagiellońskim. Na studiach należał do Niezależnego Zrzeszenia Studentów (był jej szefem) i organizacji "Wolność i Pokój". Po roku 1980 wstąpił do NSZZ "Solidarność", został jej przewodniczącym na UJ. Zasłynął podaniem do sądu SB za bezprawne aresztowanie. Proces wygrał.