Karzai jest Pusztunem, którzy stanowią główna grupę etniczna Afganistanu i uważają się za jedyną rdzenną ludność Afganistanu. Pochodzi z klanu Popalzai, tradycyjnie związanego z monarchią.

Był przeciwnikiem ingerencji ZSRR w Afganistanie. Wspierał finansowo powstanie antyradzieckie. Po opuszczeniu przez Rosję Afganistanu, został wiceministrem spraw zagranicznych w rządzie Burhanuddina Rabbaniego, opozycyjnego wobec talibów.

Początkowo Karzai wspierał Talibów, jednak po obaleniu rządu Rabbaniego w 1996 roku nie przyjął zaproponowanego mu stanowiska przedstawiciela rządu talibów przy ONZ. Wręcz odciął się od nich, wspierając siły amerykańskie podczas obalania ich władzy w 2001 roku.

Podczas rozmów stronnictw afgańskich w Niemczech w grudniu 2001 powierzono mu stanowisko tymczasowego szefa rządu. W lipca 2002 roku został zaprzysiężony na prezydenta Afganistanu. Został wybrany 1290 głosami Wielkiego Zgromadzenia Plemiennego spośród 1600 delegatów.

9 października 2004 roku odbyły się pierwsze demokratyczne wybory prezydenckie w Afganistanie, które wygrał Karzai. Zaprzysiężony został 7 grudnia 2004 roku.

W 2005 roku odebrał pokojowa nagrodę imienia Indiry Gandhi, która przyznawana jest osobom za wybitne osiągnięcia w dziedzinie pokoju i rozwoju.

Karzai przeżył przynajmniej 6 zamachów na swoje życie. Do jednego z ostatnich - w czerwcu 2007 roku - doszło w płd.-wsch. prowincji Ghazni. Pięć pocisków rakietowych wystrzelonych przez talibów spadło w pobliżu miejsca, gdzie Karzaj spotykał się ze starszyzną plemienną w nowo wybudowanej szkole w tamtejszym powiecie Andar.

Pomimo wielkiego zaufania, jakim obdarzono Karzaia podczas wyborów, jego pozycja systematycznie słabła. W 2007 roku jego sojusznicy i ministrowie z jego rządu zjednoczyli się z opozycją, w proteście przeciwko jego polityce. Nowa partia - Zjednoczony Front Narodowy oskarża prezydenta o nadużywanie swoich praw i łamanie konstytucji, a za główny cel postawiła sobie ograniczenie prezydenckich kompetencji.

W listopadzie 2009 Karzaj wygrał ponownie wybory prezydenckie, jednak po wycofaniu się z wyborów kandydata opozycyjnego. Opozycja oskarżyła władze o manipulację

Studiował na Uniwersytecie Himachal w Shimla (Indie)