Era filho de , príncipe da região de Taraunitis no sul da Armênia. Na morte de Asócio em 968, Gregório e seu irmão Pancrácio cederam Taraunitis ao Império Bizantino em troca de extensas terras dentro do império e o título de patrício. Com a derrota bizantina na Batalha da Porta de Trajano em 986, o Império Bizantino mergulhou em guerra civil na qual Bardas Focas, o Jovem e Bardas Esclero, que representavam a aristocracia da Ásia Menor, rebelaram-se contra o então imperador . Os dois irmãos envolveram-se na guerra civil, inicialmente do lado de Bardas Focas, mas logo mudaram para o lado do imperador. Segundo o historiador Iáia de Antioquia, em 988/999, na condição de magistro, Basílio enviou para o Oriente um exército liderado por Gregório Taronita em direção a Trebizonda por onde deveria marchar rumo ao sul para reunir recrutas, muitos deles provavelmente armênios que haviam apoiado Bardas Esclero antes deste trair o império. Nicéforo Focas, filho de Bardas, reforçado por mil homens enviados por , derrotou o exército de Gregório.