Pracował w rafinerii w Orsku i Zakładzie Uzdatniania Gazu w Orenburgu. W 1985 roku dostał nominację na ministra przemysłu naftowego ZSRR. Funkcje te pełnił do 1989 roku. Z rządu przeszedł do zarządu Gazpromu, gdzie pracował do 1992 roku

Od 1992 do 1998 roku był premierem Rosji. Po dymisji Siergieja Kirijenki ponownie zajął to stanowisko, ale jedynie na dwa miesiące, pomiędzy sierpniem i wrześniem 1998 roku.

W 1993 roku prezydent Jelcyn mianował go wiceprezydentem. Po zniesieniu tego stanowiska został przedstawicielem prezydenta Jelcyna ds. konfliktu bałkańskiego oraz prezesem Rady Dyrektorów Gazpromu.

W 1995 roku Czernomyrdin został przewodniczącym partii "Nasz Dom Rosja".

Od 2001 roku pełnił funkcję ambasadora na Ukrainie z nominacji Władimira Putina. Funkcję tę dostał z pominięciem procedury dyplomatycznej. Oprócz statusu dyplomaty miał również status "specjalnego przedstawiciela prezydenta Rosji ds. rozwoju stosunków handlowo-gospodarczych z Ukrainą". Międzynarodowi obserwatorzy twierdzili, iż Czernomyrdin zachowywał się na Ukrainie jak namiestnik Rosji, min.: krytykował wewnętrzne posunięcia ukraińskich rządów, przyjazd papieża i wypowiadał się w sprawach stosunków Ukrainy z USA.

11 czerwca 2009 r. prezydent Rosji Dmitrij Miedwiediew odwołał Czernomyrdina ze stanowiska ambasadora, powierzając mu jednocześnieł funkcję specjalnego przedstawiciela prezydenta ds. współpracy gospodarczej z krajami poradzieckiej Wspólnoty Niepodległych Państw (WNP).

Od wielu lat Czernomyrdin przyjaźni się z byłym prezydentem Ukrainy Leonidem Kuczmą.

W 2002 roku "Wprost" umieściło go na 15 miejscu listy "100 Najbogatszych Europy postkomunistycznej". Jego majątek szacuje się na miliard dolarów, chociaż oficjalnie ma tylko mieszkania w Moskwie i Petersburgu, daczę i dwa samochody marki Chevrolet Blazer oraz Mitsubishi Pajero. Znawcy spekulują, że większość jego majątku jest zapisana na jego rodzinę.

Do jego najbardziej odważnych cytatów Czernomyrdina należy: "Zawsze kradliśmy i zawsze będziemy kraść" oraz "Cóż, chcieliśmy dobrze, a wyszło jak zawsze" komentując sprawę braku powodzenia reform gospodarczych.

Ma doktorat nauk technicznych