Gabelentz studerte først rettsvitenskap men graviterte snart til lingvistikken. I 1878 ble han ekstraordinær professor i østasiatiske språk i Leipzig, men flyttet i 1889 til Berlin som professor i østasiatiske språk og allmen språkvitenskap.