Karierę tenisisty stołowego zaczynał w 1972 r. w klubie Neptun Starogard. Po roku przeszedł do AZS Uniwersytet Gdański (73-76), a w latach 1976-85 reprezentował barwy klubu AZS-AWF Gdańsk. W 1985 roku rozpoczął występy w niemieckim TTC Zugbruecke Grenzau, gdzie występował dwa lata. Na zakończenie kariery zawodniczej wrócił do AZS-AWF Gdańsk, w 1998 roku zakończyłczynną karierę sportową. Na swoim koncie miał 15 medali mistrzostw świata i Europy, zwycięstwo w turnieju Europa TOP 12 w roku 1985 oraz, Puchar Świata z roku 1988. Dwukrotnie był finalistą tych rozgrywek. W 1984 r. "Przegląd Sportowy" uhonorował go tytułem Sportowca Roku 1984. Był najlepszym zawodnikiem w historii polskiego tenisa stołowego. Trzykrotnie zdobywał brązowy medal mistrzostw świata (1989 w grze pojedynczej, 1985 w turnieju drużynowym, 1987 w deblu z Leszkiem Kucharskim). W 1982 roku został mistrzem Europy w grze mieszanej z Holenderką Bettiną Vriesekoop. W sumie zdobył 11 medali mistrzostw Europy (4 srebrne i 7 brązowych). 26 razy był mistrzem Polski. Mniej szczęścia miał na igrzyskach olimpijskich. Występował na nich trzykrotnie. W Seulu w 1988 w grze pojedynczej odpadł w 1/8 finału, w grze deblowej wraz z Leszkiem Kucharskim zajął szóste miejsce. W Barcelonie, w 1992 roku, w turnieju indywidualnym powtórzył osiągnięcie sprzed czterech lat, w deblu z Kucharskim odpadł w eliminacjach. Na ostatnich swoich igrzyskach, w 1996 w Atlancie, zarówno w singlu, jak i w deblu z Lucjanem Błaszczykiem nie zakwalifikował się do rundy pucharowej. Przed chorobą Andrzej Grubba był trenerem klubu TTC Zugbruecke Grenzau - wielokrotnego mistrza Niemiec, z którym jako grający trener zdobył Puchar Europy. Było to powtórzenie podobnego sukcesu, kiedy jako zawodnik zdobył Puchar Europy, grając w barwach AZS AWF Gdańsk.

W 1987 roku obronił magisterium gdańskiej Akademii Wychowania Fizycznego