Początkowo pracował w Szpitalu Miejskim w Lęborku. Od 1984 roku w Szpitalu Psychiatrycznym we Fromborku, a następnie w Szpitalu Psychiatrycznym "Drewnica" w Ząbkach (w latach 1990-92 był dyrektorem tego szpitala). Aktywny działacz "Solidarności" lat osiemdziesiątych. Był m.in. członkiem Zarządu Regionu Gdańskiego i delegatem na I Zjazd NSZZ "Solidarność". Internowany w stanie wojennym. Po 1989 r. był członkiem ROAD, a następnie Unii Demokratycznej i Unii Wolności (pełnił m.in. funkcje członka Prezydium Rady Krajowej UD, przewodniczącego Zarządu Frakcji Społeczno-Liberalnej UD oraz sekretarza krajowego ds. zdrowia UW). W maju 1990 r. został wybrany na radnego miasta Ząbki, później wybrany posłem I i II kadencji Sejmu. W rządzie Hanny Suchockiej był wiceministrem zdrowia (1992-1993). W tym rządzie przewodniczył też Międzyresortowemu Zespołowi do spraw Reform Zabezpieczenia Społecznego i Systemu Świadczeń Zdrowotnych, który przygotował wówczas jeden z projektów reformy finansowania opieki zdrowotnej. Z Unii Wolności odszedł w 1997 r. Zrezygnował z ubiegania się o mandat poselski i wrócił do pracy w szpitalu w Ząbkach pod Warszawą na stanowisko ordynatora. W latach 1998-2001 był doradcą prezydenta Aleksandra Kwaśniewskiego ds. zdrowia. Od grudnia 1999 r. do października 2001 r. pełnił funkcje dyrektora Szpitala Bielańskiego w Warszawie.

W wyborach 2001 r. dostał się do Senatu z list SLD-UP (246 tys. głosów, czwarty wynik w kraju). W 2002 r. te dwie partie poparły jego kandydaturę w bezpośrednich wyborach na urząd prezydenta miasta Warszawy. Balicki przegrał w drugiej turze, pokonany przez Lecha Kaczyńskiego. 17 stycznia 2003 r., po odejściu M. Łapińskiego został ministrem zdrowia. Odszedł 2 kwietnia, gdy wbrew jego stanowisku szefem NFZ został Aleksander Nauman, były współpracownik Łapińskiego. W marcu 2004 r. był jednym ze współzałożycieli Socjaldemokracji Polskiej. W lipcu 2005 r. roku przyjął propozycję kierowania resortem zdrowia w gabinecie Marka Belki. W wyborach samorządowych w 2006 r. został wybrany radnym Sejmiku Województwa Mazowieckiego. Pełnił funkcję wiceprzewodniczącego Sejmiku. Od 22 kwietnia 2008 był posłem Koła Poselskiego SdPl-Nowa Lewica. 26 września 2008 odszedł z SdPl, pozostając w jej kole poselskim. Zrezygnował z członkostwa w nim 15 czerwca 2009.

Działa w różnych organizacjach społecznych i zawodowych. Jest prezesem Warszawskiego Towarzystwa Pomocy Lekarskiej i Opieki nad Psychicznie i Nerwowo Chorymi. Był inicjatorem powołania stowarzyszenia Kolegium Lekarzy Rodzinnych w Polsce. Od wielu lat uczestniczy w pracach Polskiego Towarzystwa Psychiatrycznego. Jest członkiem zarządu Stowarzyszenia Studiów i Inicjatyw Społecznych oraz wiceprzewodniczącym Klubu Dialogu Politycznego im. Zofii Kuratowskiej.

Ukończył Akademię Medyczną w Gdańsku. Jest lekarzem specjalistą w dziedzinie psychiatrii i anestezjologii