Han begynte som sekretær i det osmanske utenriksministerium. Senere ble han forvaltningsinspektør og generaldirektør for aşirets (stammer) og migranter. Kaya virket som forvaltningsdirektør i Anatolia og senere i Irak. Dette forvaltningsorganet hadde hovedansvaret for å organiserer deportasjoner under det som senere er blitt kjent som folkemordet på armenerne.