Aparte de varios discursos teológicos, Gregorio es también uno de los más importantes hombres de letras del primer cristianismo, un orador muy dotado, quizá uno de los mejores de su época, y también un poeta muy prolífico, habiendo escrito varios poemas sobre temas teológicos y morales y algunos con contenido biográfico, sobre él y sus amigos.