W KPCh działa od 1964 roku. W latach rewolucji kulturalnej został wysłany do Gansu na północnym zachodzie Chin, gdzie był robotnikiem budowlanym, a następnie technikiem.
Jako działacz Komunistycznej Ligi Młodzieży w 1982 roku stał się najmłodszym członkiem Komitetu Centralnego KPCh. W wieku 43 lat został sekretarzem partii w Guizhou.
Od 1988 roku kierował partią w Tybecie - jego kadencję określano jako rządy żelaznej ręki. W latach 1988-1989 brutalnie dławił niepokoje w Tybecie, wprowadzając m.in. stan wyjątkowy.
Od 1992 roku, na mocy decyzji Deng Xiaopinga, został członkiem elitarnego, siedmioosobowego Stałego Komitetu Biura Politycznego KC KPCh. Rok później zaczął kierować pekińską Centralną Szkołą Partyjną.
W 1998 roku został wiceprezydentem Chin. Cztery lata później zastąpił Jiang Zemina na stanowisku sekretarza generalnego partii, a w marcu 2003 na stanowisku prezydenta ChRL.
We wrześniu 2004 po rezygnacji Jiang Zemina został także przewodniczącym Centralnej Komisji Wojskowej KPCh, w marcu 2005 przewodniczącym Centralnej Komisji Wojskowej ChRL. Na sesji parlamentu 15 marca 2008 ponownie wybrany na prezydenta kraju.
Jest pierwszym przedstawicielem najwyższych władz Chin, który - 8 czerwca 2004 roku - złożył wizytę w Polsce.
Hu uważany jest za człowieka nieskorumpowanego - jego rodzina w przeciwieństwie do rodzin innych prominentów chińskich nie zajmuje eksponowanych stanowisk. Lubi ubierać się w eleganckie garnitury, gra w ping-ponga, dobrze też tańczy, przede wszystkim fokstrota.