Pave Benedict I kalte Gregor til sin tjeneste, og etterfølgeren, pave Pelagius II sendte ham i 579 som ambassadør til keiseren i Konstantinopel. Her kom den fromme Gregor tett inn på maktpolitikk og hoffintriger, mens han selv levde et enkelt klosterliv og viet seg til bønn og teologiske studier.