Rubab er attestert fra det 7. århundre. Det er nevnt i gamle persiske bøker, og mange sufi-poeter nevner det i sine dikt. Det er et tradisjonelt instrument i Khorasan og er i dag mye brukt i land som Afghanistan, Iran, Pakistan, Tadsjikistan og Usbekistan. Instrumentene som lages i Iran er litt annerledes enn de i Afghanistan.