Był doradcą Krajowej Komisji Porozumiewawczej (pózniej Komisji Krajowej) NSZZ "Solidarność" i współautorem pierwszego statutu "S". Wraz z Wiesławem Chrzanowskim prowadził postępowanie rejestracyjne "Solidarności" przed sądem w Warszawie, później także postępowanie rejestracyjne NSZZ Rolników Indywidualnych "Solidarność". W grudniu 1980 r. współtworzył Komitet Obrony Więzionych za Przekonania, powołany przez KKP. Od stycznia 1981 r. wchodził w skład Rady Programowo-Konsultacyjnej Ośrodka Prac Społeczno-Zawodowych przy KKP.

Po wprowadzeniu stanu wojennego prowadził z ramienia sekretarza Episkopatu Polski abp. Bronisława Dąbrowskiego pertraktacje z władzami w sprawie zwolnienia z więzień i obozów internowania osób chorych. Był obrońcą w wielu procesach przeciwko organizatorom strajków i podziemnym wydawcom. Bronił m.in. Lecha Wałęsę, Zbigniewa Romaszewskiego, Zbigniewa Bujaka. Był inicjatorem wspólnego oświadczenia podziemnego "S" oraz związków branżowych i autonomicznych, stanowiącego protest przeciwko delegalizacji wszystkich związków zawodowych w Polsce.

Z upoważnienia prymasa Józefa Glempa w 1984 i 1985 r. wystąpił jako oskarżyciel posiłkowy w procesie morderców ks. Jerzego Popiełuszki. Był też pełnomocnikiem rodziny księdza.

W styczniu i lipcu 1989 r. w niejasnych okolicznościach zginęli zaangażowani w działalność niepodległościową księża: Stefan Niedzielak, Stanisław Suchowolec i Sylwester Zych.
Olszewski pracował nad zdemaskowanie fałszywych informacji podawanych przez SB, jakoby były to "wypadki ze skutkiem śmiertelnym bez udziału osób trzecich". Jego starania doprowadziły do przyznania przez prokuraturę, że ks. Niedzielak (przyjaciel Olszewskiego) został zamordowany, jednak śledztwo umorzono.

Olszewski odmówił wzięcia udziału w rozmowach "Okrągłego Stołu". Ale będąc członkiem (i założycielem) Komitetu Obywatelskiego przy Lechu Wałęsie, udzielał pomocy opozycji jako ekprert z dziedziny prawa.

Odrzucił też kandydowanie w wyborach 1989 r. do „sejmu kontraktowego” oraz propozycję uczestnictwa w rządzie Tadeusza Mazowieckiego. Jesienią 1990 r. brał udział w przygotowaniu programu wyborczego L. Wałęsy i był jego mężem zaufania w PKW w wyborach prezydenckich. Jako prezydent Wałęsa zleca mu zorganizowanie rządu. Jednak po paru tygodniach Olszewski zrzeka się tej misji, nie godząc się z polityką Wałęsy i jego współpracowników.

W 1970 r. wrócił do adwokatury i jako obrońca brał udział w procesie niepodległościowej organizacji "Ruch".

W 1975 r. podpisał "List 59" - protest przeciw poprawkom wprowadzającym do konstytucji PRL przewodnią rolę PZPR i sojusz z ZSRR. W styczniu 1976 napisał z Wojciechem Ziembińskim "List 14" przeciwko wprowadzeniu do konstytucji zapisu o nienaruszalności sojuszu z ZSRR.

W 1976 r. bronił robotników Radomia i Ursusa. Podpisał oświadczenie 14 intelektualistów z czerwca 1976, solidaryzujące się z protestami robotniczymi.

W 1976 r. wraz ze Zdzisławem Najderem założył Polskie Porozumienie Niepodległościowe. Należał do jego ścisłego kierownictwa (ze Z. Najderem, A. Kijowskim i J. J. Szczepańskim). W okresie swojej działalności w PPN latach 1976-80 ogłosił ponad pięćdziesiąt publikacji programowych, z których najbardziej znana to napisany przez Olszewskiego w 1977 r. poradnik "Obywatel a Służba Bezpieczeństwa" (był on wielokrotnie wznawiany drugim obiegu i popularny wśród działaczy solidarnościowej konspiracji).

W 1976 r. uczestniczył też w zakładaniu Komitetu Obrony Robotników. Był współautorem jego "Apelu do społeczeństwa i władz PRL" z 23 września 1976 r. Nie został umieszczony na liście członków KOR, aby móc udzielać pomocy prawnej represjonowanym robotnikom. W czerwcu 1977 r. z ramienia KOR-u uczestniczył w ustalaniu rzeczywistych okoliczności zabójstwa Stanisława Pyjasa. Podpisał Deklarację Ruchu Demokratycznego z 18 września 1977 r., dokument programowy środowiska KOR. Współpracował również z Ruchem Obrony Praw Człowieka i Obywatela.

W latach 60. bronił w procesach politycznych m.in. Jacka Kuronia, Karola Modzelewskiego, Melchiora Wańkowicza, Jana Nepomucena Millera, Janusza Szpotańskiego, Wojciecha Ziembińskiego.

W latach 1968-70, w związku z obroną studentów aresztowanych w czasie manifestacji marcowych w Warszawie, zawieszono go w prawie wykonywania zawodu.

W maju 1990 r. został wybrany do sejmu I kadencji (1991-1993) z listy koalicji Porozumienia Obywatelskiego Centrum (w sejmie należał do klubu Porozumienia Centrum), z której do Sejmu dostali się także Jarosław i Lech Kaczyńscy.

Zasiadał w komisjach: konstytucyjnej, do rozpatrzenia projektów ustaw konstytucyjnych, sprawiedliwości oraz administracji i spraw wewnętrznych. Brał też udział w pracach podkomisji podstaw ustroju politycznego i społeczno-gospodarczego oraz podkomisji organów władzy ustawodawczej, wykonawczej i samorządu terytorialnego.

Od 5 grudnia 1991 r. do 4 czerwca 1992 r. sprawował urząd premiera. W maju 1992 r. sprzeciwił się przekazaniu baz opuszczanych przez wojska rosyjskie stacjonujące w Polsce w ręce międzynarodowych spółek polsko-rosyjskich i starał się zapobiec podpisaniu porozumienia w tej sprawie. Wywołało to konflikt z prezydentem Lechem Wałęsą, który po powrocie z Moskwy zgłosił wniosek o odwołanie rządu. Niespełna dwa tygodnie później rząd Olszewskiego został obalony w nocnym głosowaniu z 4 na 5 czerwca 1992 roku, w tzw. noc teczek, po ujawnieniu przez szefa MSW Antoniego Macierewicza archiwaliów SB - listy polityków figurujących w archiwach MSW jako konfidenci komunistycznych służb specjalnych.

Po upadku rządu i podziale Porozumienia Centrum, stanął na czele Ruchu dla Rzeczypospolitej, który przed wyborami 1993 r. wraz z Partią Wolności Kornela Morawieckiego i Akcja Polską Antoniego Macierewicza utworzył Koalicję dla Rzeczypospolitej. Po klęsce wyborczej 19 września 1993 r. stracił przywództwo na rzecz Romualda Szeremietiewa.

Jesienią 1993 r. uczestniczył w organizowaniu Społecznej Komisji Konstytucyjnej, złożonej z grona niezależnych ekspertów prawa, politologii i nauk społecznych. SKK, współpracując z Komisją Krajową "Solidarności", przygotowała Obywatelski Projekt Konstytucji, który został zgłoszony do Komisji Konstytucyjnej Zgromadzenia Narodowego z podpisami przeszło półtora miliona obywateli.

W 1995 r. kandydował na urząd prezydenta- zajął wówczas 4 miejsce wśród 13 pretendentów. Poparło go 6,86 proc. wyborców. Od 1995 r. stoi na czele Ruchu Odbudowy Polski, który w 1996 r. osiągał w sondażach 16 proc. poparcia.

Zasiadał też w Sejmie III i IV kadencji, do której dostał się z list Ligi Polskich Rodzin. Brał udział w pracach Komisji Sprawiedliwości i Praw Człowieka. W 2002 wystąpił z klubu LPR. Startował w wyborach prezydenckich w 2000 roku, ale wycofał się z kandydowania i zaapelował o poparcie Mariana Krzaklewskiego. Przed wyborami parlamentarnymi 2005 r. wraz z Antonim Macierewiczem i Gabrielem Janowskim stworzył prawicową partię Ruch Patriotyczny, która jednak nie weszła do sejmu. Olszewski dostał sie wówczas do senatu z listy warszawskiej ze 123 tys. głosów (6. miejsce).

Podczas sejmowej debaty o 100 dniach działalności rządu Kazimierza Marcinkiewicza prezes PiS Jarosław Kaczyński mówił, że w ciągu 17 lat z "układem" nie był związany tylko jeden rząd - Jana Olszewskiego. W ostatnich wyborach prezydenckich ROP poparł kandydaturę Lecha Kaczyńskiego. 10 kwietnia 2006 r. Olszewski został doradcą politycznym prezydenta Lecha Kaczyńskiego. 25 sierpnia 2007 r. jako gość honorowy wystąpił na konwencji Prawa i Sprawiedliwości w gdańskiej hali "Oliwa".

W wyborach parlamentarnych w 2007 roku miał kandydować do Senatu z listy PiS. Tak jednak się nie stało, ponieważ okręgowa komisja wyborcza uznała, że nie dostarczył odpowiedniej liczby podpisów poparcia.

9 listopada 2007 roku został szefem komisji weryfikacyjnej WSI, zastępując na tym stanowisku Antoniego Macierewicza. Była to decyzja prezydenta Lecha Kaczyńskiego.

Pochodzi z rodziny kolejarskiej związanej z PPS.
W czasie okupacji od 1943 r. działał w Szarych Szeregach, był łącznikiem w Powstaniu Warszawskim.

W latach 1946-1947 uczestniczył w akcji wyborczej na rzecz PSL Stanisława Mikołajczyka.

Po studiach pracował w Ministerstwie Sprawiedliwości (1953-54), później w latach 1954-56 w Polskiej Akademii Nauk (w Zakładzie Nauk Prawnych).

W latach 1956-57 zasiadał w redakcji tygodnika Po prostu. Wraz z Walerym Namiotkiewiczem i Jerzym Ambroziewiczem napisał głośny tekst Na spotkanie ludziom z AK, zamieszczony w Po prostu 11 marca 1956 r., wzywający do rehabilitacji żołnierzy AK. W swoich artykułach wskazywał na nadużycia w wymiarze sprawiedliwości oraz opisywał współpracę aparatu partyjnego ze środowiskiem przestępczym na prowincji. Od 1957 do 1959 r. miał zakaz publikowania jako dziennikarz.

W latach 1956-62 należał do Klubu Krzywego Koła. Wchodził w skład Zarządu KKK (1958-61). Potem uczestniczył w spotkaniach u Jana Józefa Lipskiego, na które zapraszano m. in. działaczy rozwiązanego w 1962 r. Klubu.

Ukończył prawo na Uniwersytecie Warszawskim.