In Colmars Amtszeit fällt die Strukturierung und Organisation der neu entstandenen Großdiözese Mainz, die im Südwesten bis nach Pirmasens und Zweibrücken reichte. Dazu gehörten aber auch besonders die seelsorgerischen Aspekte. Er unternahm zahlreiche Visitationsreisen, um seine Diözesanen persönlich kennenzulernen und förderte nach einer Periode der Aufklärung und der nationalkirchlichen Bestrebungen seines Vorgängers, feierliche Gottesdienste, Bruderschaften, Wallfahrten u. ä., wodurch das religiöse Leben in kurzer Zeit neu aufblühte. Colmar gründete 1803 ein Priesterseminar und berief Bruno Franz Leopold Liebermann zu dessen Regens. Es entwickelte sich zum romtreuesten in ganz Deutschland und es entstand dort um den Bischof und um Liebermann der sogenannte Mainzer Kreis. Den Armen und Kranken widmete er sich mit großer Hingabe. Bei der Typhusepidemie im Winter 1813, die in Mainz durch die zurückflutende, französische Armee, nach der Leipziger Völkerschlacht ausgelöst wurde, pflegte Colmar mit seinen Priestern und Seminaristen persönlich die Kranken und Sterbenden, die oft hilflos, in Lumpen gehüllt, in Scheunen, Hinterhöfen und Kellern dahinsiechten.