Karierę trenerską rozpoczął w 1972 roku, kiedy objął zespół SC Camburg. W 1979 roku objął pierwszą drużyną Ajaxu Amsterdam, z którym zdobył mistrzostwo kraju (1980 r.) W kolejnych latach często zmieniał pracę. Duże sukcesy osiągnął pod koniec lat 80. kiedy prowadził Real Madryt.

W latach 1987-89 trzykrotnie sięgnął po mistrzostwo Hiszpanii i raz po Puchar Króla (1989 r.). W latach 1985-86 i 1990 prowadził reprezentację Holandii.

W 1990 roku wystąpił na mistrzostwach świata, jednak Holendrzy nie wygrali żadnego meczu. Natychmiast po mistrzostwach odszedł ze stanowiska. W 1990 roku zdobył kolejne mistrzostwo Holandii z Ajaxem.

W 1993 roku objął drużynę Arabii Saudyjskiej, ale po trzech miesiącach zwolniono go ze stanowiska. W 1999 roku wywalczył pierwsze miejsce z Feyenordem Rotterdam. W tej drużynie przez trzy lata pracował z bramkarzem reprezentacji Polski Jerzym Dudkiem.

Od maja 2005 roku prowadził reprezentację Trynidadu i Tobago. Podczas mundialu w Niemczech jego podopieczni zremisowali bezbramkowo z faworyzowaną Szwecją, przegrali 0:2 z reprezentacją Anglii, oraz z Paragwajem także 0:2.

Od 11 lipca 2006 roku był trenerem piłkarskiej reprezentacji Polski. Szkoleniowiec podpisał kontrakt na 15 miesięcy, do zakończenia eliminacji mistrzostw Europy w 2008 roku. W listopadzie 2007 roku PZPN przedłużył kontrakt do końca listopada 2009 roku. Zgodnie z obietnicą polska kadra zakwalifikowała się do Mistrzostw Europy 2008. Swój udział w Euro 2008 zakończyła jednak na etapie rozgrywek grupowych z jedną strzeloną bramką i jednym punktem za remis z Austrią po kontrowersyjnym karnym podyktowanym przez angielskiego arbitra Howarda Webba w doliczonym czasie gry. Pracę selekcjonera reprezentacji Polski stracił 17 września 2009. 13 lutego 2009 roku został technicznym konsultantem Feyenoordu Rotterdam.