Młody Jarmush chciał zostać pisarzem, dlatego też zdecydował się studiować literaturę na Uniwersytecie Columbia. Pod koniec studiów wyjechał do Paryża, gdzie wiele czasu spędził w Cinematheque Francaise. Kiedy po roku wrócił do Stanów podjął studia w Institute Film and TV na Uniwersytecie Nowojorskim.
Blisko związany z nowojorskim środowiskiem twórców awangardowych, Jarmush współpracował m.in. z Wimem Wendersem oraz Nicholasem Rayem. Debiuotwał filmem "Permament vacation".
Jarmush jest również muzykiem i aktorem. Reżyserował wideoklipy m.in. Toma Waitsa, z którym od lat współpracuje i który grywa w jego filmach, i Neila Younga.
Jego filmy cieszą się uznaniem krytyki. Jest laureatem wielu nagród: już debiutancki film "Permanent Vacation" zdobył Nagrodę im. Josepha von Sternberga - MFK Mannheim 1980 oraz nagrodę FIRPESCI festiwalu w Figuera da Foz.
1982 - Nieustające wakacje (Permanent Vacation)
1984 - Inaczej niż w raju (Stranger than Paradise)
1986 - Poza prawem (Down by Law)
1989 - Mystery Train
1991 - Noc na ziemi (Night on Earth)
1995 - Truposz (Dead Man)
1999 - Ghost Dog : Droga Samuraja (Ghost Dog: The Way of the Samurai)
2002 - cykl Kawa i papierosy (Coffee and Cigarettes)
2005 - Broken Flowers