Khoyski venne eletto deputato alla Seconda Duma dell'Impero russo dal Governatorato di Elizavetpol'. Pronunciò un discorso davanti alla Duma il 2 febbraio 1907, criticando le politiche russe di colonizzazione in Azerbaigian e nel Caucaso. Sebbene fosse formalmente iscritto al Partito Democratico Costituzionale (noto come "Kadets"), si unì anche alla frazione musulmana della Duma. Il 27 marzo, subito dopo la rivoluzione di febbraio del 1917 in Russia, Khoyski divenne membro del Comitato esecutivo temporaneo dei Consigli nazionali musulmani (MNC). Durante il primo vertice del Musavat del 26-31 ottobre 1917, Khoyski si espresse a favore dell'autonomia dell'Azerbaigian. Nel dicembre 1917 fu eletto membro del Sejm transcaucasico di recente creazione e successivamente nominato ministro della giustizia dell'indipendente Repubblica Federale Democratica Transcaucasica.