Sachverhalt:
A.
Mit Verfügung des Einzelrichters im ordentlichen Verfahren des Bezirks Winterthur vom 1. Juli 2010 wurde Z._ im Scheidungsverfahren gegen Y._ die unentgeltliche Prozessführung bewilligt und ihm Rechtsanwalt X._ als unentgeltlicher Rechtsbeistand bestellt. Nach Abschluss des Scheidungsverfahrens reichte Rechtsanwalt X._ die Kostennote über den Betrag von Fr. 31'926.60 inkl. Barauslagen und Mehrwertsteuer ein. Mit Verfügung vom 11. September 2012 sprach ihm der Einzelrichter im ordentlichen Verfahren des Bezirks Winterthur für seine Bemühungen im Scheidungsverfahren eine Entschädigung von Fr.11'709.-- (inklusive Barauslagen und Mehrwertsteuer) aus der Gerichtskasse zu. Rechtsanwalt X._ wurde dahingehend belehrt, dass gegen die Verfügung innert 30 Tagen Beschwerde beim Obergericht erhoben werden könne.
B.
Mit Beschluss vom 17. Mai 2013 trat das Obergericht des Kantons Zürich auf die gegen die erstinstanzliche Kostenfestsetzung eingereichte Beschwerde von Rechtsanwalt X._ nicht ein, da die Beschwerde nicht innert 10 Tagen seit Eröffnung der Kostenverfügung eingereicht worden war. In der Eventualerwägung befasste sich das Obergericht mit den in der Beschwerde erhobenen Rügen gegen die erstinstanzliche Kostenfestsetzung und kam zum Schluss, dass die Beschwerde hätte abgewiesen werden müssen, falls auf sie hätte eingetreten werden können.
C.
Rechtsanwalt X._ hat gegen den obergerichtlichen Beschluss beim Bundesgericht mit Eingabe vom 24. Juni 2013 (Postaufgabe) Beschwerde in Zivilsachen erhoben. Er beantragt, der angefochtene Beschluss sei aufzuheben und die Entschädigung auf Fr. 20'217.60 festzusetzen; eventuell sei die Sache im Sinn der Erwägungen an die Vorinstanz zurückzuweisen.
Es sind keine Vernehmlassungen eingeholt worden.

Erwägungen:
1.
Angefochten ist ein letztinstanzlicher (<ref-law>) kantonaler Endentscheid (<ref-law>) betreffend Festsetzung der Entschädigung des unentgeltlichen Rechtsbeistandes, wobei vor der letzten kantonalen Instanz einzig die Entschädigung strittig war. Der massgebende Streitwert richtet sich folglich nach dem vor der letzten kantonalen Instanz strittigen Betrag der Entschädigung (vgl. 5D_86/2012 vom 14. September 2012 E. 1; 5A_396/2012 vom 5. September 2012 E. 1.2). Vor Obergericht strittig war einzig ein Betrag von rund Fr. 8'000.--, womit die Beschwerde in Zivilsachen nicht gegeben ist (<ref-law>). Zulässig ist somit einzig die subsidiäre Verfassungsbeschwerde (<ref-law>) und als solche ist die Eingabe des Beschwerdeführers entgegenzunehmen. Die übrigen Eintretensvoraussetzungen geben zu keinen Bemerkungen Anlass. Auf die Beschwerde ist einzutreten.
2.
2.1. Das Obergericht hat sich in der Eventualbegründung mit den Rügen des Beschwerdeführers gegen die Festsetzung der Entschädigung befasst. Es ging dabei unwidersprochen davon aus, deren Festsetzung richte sich nach der (kantonalen) Verordnung des Obergerichts über die Anwaltsgebühren vom 21. Juni 2006 (215.3; altAnwGebV; nachfolgend Verordnung). Mit der Verfassungsbeschwerde kann einzig eine Verletzung verfassungsmässiger Rechte geltend gemacht werden (<ref-law>). Es gilt das strenge Rügeprinzip. Das Bundesgericht prüft nur in der Beschwerde selbst klar und detailliert erhobene und, soweit möglich, belegte Rügen. Auf ungenügend begründete Vorbringen und appellatorische Kritik am festgestellten Sachverhalt tritt es nicht ein (<ref-ruling> E. 2.2 S. 246).
2.2. Bei der Festsetzung der Entschädigung des unentgeltlichen Rechtsbeistands verfügen die kantonalen Instanzen über ein weites Ermessen. Das Bundesgericht greift nur ein, wenn die Vorinstanz dieses willkürlich ausgeübt hat (vgl. <ref-ruling> E. 3a S. 2; <ref-ruling> E. 2b S. 134; <ref-ruling> E. 2c S. 109; Urteil 5D_15/2012 vom 28. März 2012 E. 5.2).
2.3. Strittig sind vor Bundesgericht die Festsetzung der Grundgebühr und die Zuschläge zu dieser Gebühr. Zur Begründung der Angemessenheit der Entschädigung hat das Obergericht im Einzelnen erwogen, nach § 4 Abs. 1 i.V.m. § 3 Abs. 5 Satz 2 der Verordnung betrage die Grundgebühr in Ehescheidungssachen in der Regel Fr. 1'400.-- bis Fr. 16'000.--, wobei sich die Grundgebühr innerhalb dieses Rahmens nach der Verantwortung, der Schwierigkeit des Falles und dem notwendigen Zeitaufwand bemesse. Nach § 6 Abs. 1 der Verordnung sei die Grundgebühr verdient, wenn die Klagebegründung bzw. die Klageantwort erstattet werde; zur Grundgebühr würden Zuschläge berechnet. Der Beschwerdeführer mache für die Erstattung der ersten Parteivorträge (Klagebegründung/Klageantwort) bis zum 27. Mai 2010 einen Zeitaufwand von 28 Stunden geltend. Seine Auffassung, für die Bestimmung der Grundgebühr hätte auch der Zeitaufwand für die am 20. Februar 2012 eingereichte Duplik berücksichtigt werden müssen, finde in der Verordnung keine Stütze. Zu Unrecht beanstande der Beschwerdeführer ferner, dass die erste Instanz für die Berechnung der Grundgebühr von Fr. 5'600.-- für die 28 Stunden einen Stundenansatz von Fr. 200.-- verwendet habe. Selbst wenn dieser Stundenansatz für die Entschädigung des amtlichen Verteidigers im Strafprozess Anwendung finde, sei er als rechnerische Grösse für die Entschädigung des unentgeltlichen Rechtsbeistandes in einem Zivilverfahren heranzuziehen.
Auch die Kritik des Beschwerdeführers an den Ausführungen der Vorinstanz zur Schwierigkeit des Falles sei unbegründet. Was die behaupteten Schwierigkeiten bei der Bestimmung des Einkommens seines Klienten betreffe, so gelte es in einem Scheidungsverfahren im Rahmen der Unterhaltsberechnung häufig variable Lohnbestandteile zu berücksichtigen und es werde nicht dargetan, worin im konkreten Fall eine besondere Schwierigkeit bestanden habe. Weshalb die Einreichung von bereits bestehenden Geschäftsabschlüssen der W._ GmbH besondere Schwierigkeiten geboten habe, werde nicht erörtert. Nicht überzeugend sei auch der Hinweis auf namhafte Schwierigkeiten bei der Bedarfsberechnung des Sohnes, der beim Klienten des Beschwerdeführers wohne. Zum einen habe die erste Instanz gewisse Schwierigkeiten eingeräumt und diese entsprechend bei der Festsetzung der Grundgebühr berücksichtigt. Zum andern sei die Rechtslage nach dem Entscheid des Bundesgerichts <ref-ruling> geklärt. Auch die Kritik des Beschwerdeführers an der Darstellung der ersten Instanz in Bezug auf die Kinderbelange seien sich die Parteien in den Grundzügen einig gewesen, erweise sich als nicht überzeugend, räume doch der Beschwerdeführer selbst ein, die Stellungnahme des zuständigen Richters in einem früheren Verfahrenszeitpunkt habe für den weiteren Verlauf des Prozesses beruhigend gewirkt. Auch habe die güterrechtliche Auseinandersetzung keine besonderen Schwierigkeiten geboten, wobei die angeblich aufwändigen Berechnungen in der Replik/Duplik ohnehin nicht berücksichtigt werden könnten. Nichts zu seinen Gunsten ableiten könne der Beschwerdeführer sodann aus seiner Bemerkung, der Vorsorgeausweis habe "etliche Schwierigkeiten" geboten: Die erste Instanz habe berücksichtigt, dass die Investition von Vorsorgegeldern in die eheliche Liegenschaft zu beachten war. Schliesslich mache der Beschwerdeführer nicht geltend, bzw. lege nicht substanziiert dar, weshalb im vorliegenden Fall von einer besonderen Verantwortung des Beschwerdeführers auszugehen sei. Die Vorinstanz gelangte daher zum Schluss, die Grundgebühr sei mit einem Betrag von Fr. 5'600.-- angemessen festgesetzt worden.
2.4. Im vorliegenden Fall kann offenbleiben, ob die Ausführungen des Beschwerdeführers zur materiellen Festsetzung der Entschädigung den für Verfassungsrügen geltenden strengen Begründungsanforderungen (E. 4.1) genügen, zumal sich die Beschwerde in dieser Hinsicht grundsätzlich als materiell unbegründet erweist.
2.4.1. Der Beschwerdeführer beanstandet, die Vorinstanz habe bei der Bemessung der Grundgebühr zu Unrecht hauptsächlich auf den zeitlichen Aufwand abgestellt und auch zu Unrecht den für die Strafverteidigung reservierten Stundenansatz von Fr. 200.-- berücksichtigt. Dem Sinn nach hält er dafür, die Grundgebühr sei nicht der Bedeutung und Schwere des Falles entsprechend berücksichtigt worden.
Entgegen der Auffassung des Beschwerdeführers hat das Obergericht nicht allein und auch nicht hauptsächlich auf den zeitlichen Aufwand abgestellt, sondern hat vielmehr auch den Schwierigkeitsgrad des Falles und die Verantwortung anhand der im Einzelnen aufgelisteten Aktionen berücksichtigt, jedoch nicht der Behauptung und Ansicht des Beschwerdeführers entsprechend gewürdigt. Von Willkür kann daher keine Rede sein. Zudem ist nicht ersichtlich, inwiefern die Anwendung des Stundentarifs des amtlichen Strafverteidigers auf die Entschädigung des amtlichen Rechtsbeistandes im Zivilverfahren willkürlich wäre.
2.4.2. Der Beschwerdeführer ist weiter der Ansicht, die Auffassung der Vorinstanz, wonach die Grundgebühr nur für die Tätigkeit bis zum Abschluss des ersten Schriftenwechsels gelte, könne nicht auf das von der Untersuchungs- und Offizialmaxime beherrschte Scheidungsverfahren angewendet werden. Zudem seien sowohl der Zeitaufwand wie der Schwierigkeitsgrad in einem Scheidungsprozess nicht für beide Parteien gleich.
Nach § 6 Abs. 1 der Verordnung umfasst die Grundgebühr die Tätigkeit bis zur Einreichung der Klagebegründung bzw. Klageantwort. Das Gesetz macht für Scheidungsverfahren keine Ausnahme. Inwiefern der Vorinstanz eine willkürliche Auslegung kantonalen Rechts vorzuwerfen wäre, vermag nicht einzuleuchten. Im Übrigen haben die kantonalen Instanzen die Grundgebühr des Beschwerdeführers nicht durch einen Vergleich mit der dem Anwalt der Gegenpartei zugesprochenen Gebühr, sondern anhand der Kriterien der Verordnung, nämlich unter Berücksichtigung des zeitlichen Aufwandes, des Schwierigkeitsgrades und der Verantwortung festgesetzt. Von Willkür kann keine Rede sein.
2.4.3. Aufgrund der bisherigen Ausführungen ist die Festsetzung der Grundgebühr mit Blick auf die eingeschränkte Kognition nicht zu beanstanden. Soweit der Beschwerdeführer schliesslich die Zuschläge zur Grundgebühr kritisiert, ist auf die Beschwerde nicht einzutreten, hat er doch den von der ersten Instanz gewährten Zuschlag von 80% zur Grundgebühr vor Obergericht nicht thematisiert. Insoweit liegt kein letztinstanzlicher Entscheid vor (<ref-ruling> E. 2 S. 639 f.).
3.
Zusammenfassend hat eine Prüfung der Eventualerwägung der Vorinstanz unter dem Gesichtswinkel der zulässigen Rügen ergeben, dass die Kostenfestsetzung der ersten Instanz nicht zu beanstanden ist. Unter diesen Umständen kann offen bleiben, ob die Vorinstanz mit ihrem Entscheid, auf die Beschwerde wegen Nichteinhaltens der 10-tägigen Beschwerdefrist nicht einzutreten, den Vertrauensschutz des Beschwerdeführers missachtet und damit gegen das Verbot der formellen Rechtsverweigerung verstossen hat: Selbst wenn dem so wäre, könnte die Beschwerde angesichts des ausgezeigten Ergebnisses in der Sache abgewiesen werden, zumal bei der gegebenen Sach- und Rechtslage eine Gutheissung der Beschwerde wegen formeller Rechtsverweigerung nur zu einer unnützen Verlängerung des Verfahrens führen würde (Urteil 4A_492/2008 vom 12. März 2009 E. 1.2 mit Hinweisen). Die Beschwerde ist daher abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer kostenpflichtig (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde in Zivilsachen wird als subsidiäre Verfassungsbeschwerde entgegengenommen und abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 1'500.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird dem Beschwerdeführer, dem Bezirksgericht Winterthur und dem Obergericht des Kantons Zürich, I. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 22. August 2013
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: von Werdt
Der Gerichtsschreiber: Zbinden