Хабібулла народився у 1890 році в кишлаку Калакан на північ від Кабула, у родині водоноса, таджика за національністю. Внаслідок цього він отримав прізвисько Сакао, а за Хабібуллою закріпилось прізвисько Бача-і Сакао (тобто син водоноса). У дитинстві Хабібуллу віддали на навчання до місцевого мулли, однак через непокірність і прямоту характеру його невдовзі виставили з медресе і на все життя залишився неграмотним. До 1919 року він працював у саду Хусайнкоста, який належав тодішньому міністру фінансів Хусейн-хану. У 1920 році Хабібулла за призовом пішов в армію, прослуживши два роки. Потім він упродовж деякого часу воював проти радянської влади у Середній Азії в одному з загонів басмачів Енвер-паші. У 1924 році Хабібуллу знову призвали до армії для проходження резервної служби. Тоді він брав участь у придушенні заколоту в Південній провінції та був нагороджений за зразкову службу орденом Хедмат.