Sachverhalt:
A.
A.a. A._ (Mieter, Kläger, Beschwerdeführer) wohnte seit Mitte 1995 mit seiner Familie an der Strasse X._ in U._, wo er innerhalb der Liegenschaft dreimal umzog. Vermieter ist der Kanton Zürich (Vermieter, Beklagter, Beschwerdegegner).
A.b. Am 23./27. Oktober 2003 schlossen der Mieter und seine Ehefrau (zur Zeit in Scheidung) mit dem Vermieter per 1. November 2003 einen neuen Mietvertrag über eine 4-Zimmer-Wohnung zu einem monatlichen Mietzins von Fr. 419.-- netto bzw. Fr. 633.-- brutto. Ab 1. Mai 2011 wurde der Bruttomietzins auf Fr. 655.-- erhöht.
A.c. Am 22. Dezember 2014 kündigte der Vermieter den Mietern die Wohnung wegen Zahlungsverzugs auf den 31. Januar 2015. Die Mieter gelangten an die Schlichtungsbehörde des Bezirksgerichts Andelfingen und beantragten die Feststellung, dass die Kündigung unwirksam sei, eventuell sei die angefochtene Kündigung für ungültig zu erklären.
A.d. Am 6. März/14. April 2015 schlossen der Mieter und der Vermieter einen neuen Mietvertrag über die 4-Zimmer-Wohnung mit Beginn ab 1. März 2015 ab, worin festgehalten wurde, dass es sich nicht um eine Familienwohnung handle. Der Nettomietzins wurde auf monatlich Fr. 619.-- festgesetzt, der Bruttomietzins auf Fr. 1'047.--. Dieser Mietzins sollte ab Oktober 2015 gelten, während für die Zeit vom 1. März bis 30. September 2015 eine Reduktion vereinbart wurde. Der Mieter hatte Sicherheit zu leisten. Die Vermieterin legte dem Mietvertrag ein Formular "Mitteilung des Anfangsmietzinses anlässlich des Abschlusses eines neuen Mietvertrags" bei. Der Mieter bestätigte am 14. April 2015 den Erhalt der Unterlagen.
B.
B.a. Mit Eingabe vom 19. Mai 2015 focht der Mieter den Mietzins bei der zuständigen Schlichtungsbehörde an und verlangte, (1) es sei festzustellen, dass die im Mietvertrag vom 6. März 2015 bzw. 14. April 2015 vereinbarte Erhöhung des monatlichen Nettomietzinses und der monatlichen Nebenkosten sowie der Änderung der Pauschal- und Akontobeträge (Allgemeinstrom, Kehrichtgebühren) nichtig seien; (2) es sei festzustellen, dass der Anfangsmietzins missbräuchlich sei. Dieser sei auf das zulässige Mass herabzusetzen.
B.b. Am 8. Juni 2015 fand in beiden Verfahren (Anfechtung der Kündigung vom 22. Dezember 2014 und Mietzinsanfechtung) eine Schlichtungsverhandlung statt. Da keine Einigung zustandekam, wurden dem Mieter die Klagebewilligungen erteilt. Die Klagebewilligung betreffend die Anfechtung der Kündigung liessen der Mieter und seine Ehefrau in der Folge verfallen.
B.c. Mit Eingabe vom 31. August 2015 reichte der Mieter beim Mietgericht des Bezirksgerichts Andelfingen Klage ein mit den Rechtsbegehren:
"1. Es sei festzustellen, dass die vom Beklagten mit amtlichem Formular vom 6. März 2015 resp. 14. April 2015 erklärte Erhöhung des monatlichen Nettomietzinses von Fr. 419.-- auf Fr. 619.-- nichtig sei;
2.es sei festzustellen, dass die vom Beklagten mit amtlichem Formular vom 6. März 2015 per 1. März 2015 erklärten einseitigen Vertragsänderungen betreffend die separat zum Nettomietzins geschuldeten Nebenkosten nichtig seien;
3.es sei festzustellen, dass die Vereinbarung gemäss Ziffer 8 des Mietvertrages vom 6. März 2015 per 1. März 2015 betreffend Sicherheitsleistung im Betrag vom Fr. 3'141.-- nichtig sei;
4.eventualiter sei festzustellen, dass die vom Beklagten mit amtlichem Formular vom 6. März 2015 per 1. März 2015 erklärte Mietzinserhöhung und die einseitigen Vertragsänderungen betreffend Nebenkosten missbräuchlich seien und der Nettomietzins sei per 1. März 2015 auf Fr. 419.-- sowie die separat geschuldeten Nebenkosten seien wie folgt herabzusetzen: Strom allgemein Fr. 4.-- pauschal, Wasser- und Abwassergebühren Fr. 62.-- pauschal und Heizkosten Fr. 170.-- akonto;
unter Kosten- und Entschädigungsfolgen (zuzügl. MwSt.) zu Lasten des Beklagten."
B.d. Das Mietgericht wies die Klage mit Urteil vom 17. November 2016 vollumfänglich ab und stellte fest, dass per 1. März 2015 ein Bruttomietzins von Fr. 655.--, per 1. Juli 2015 ein Bruttomietzins von Fr. 847.-- und per 1. Oktober 2015 ein Bruttomietzins von Fr. 1'047.-- Gültigkeit hat. Das Mietgericht kam zunächst zum Schluss, die umstrittenen Mietvertragsbedingungen seien nach einlässlichen Vergleichsgesprächen nach bereits ausgesprochener Kündigung während eines hängigen Schlichtungsverfahrens zustandegekommen und der während dieser Verhandlungen anwaltlich vertretene Kläger habe danach auf die Formularpflicht gültig verzichtet und könne nun auch die ohne Mitteilung auf dem Formular vereinbarten Änderungen nicht anfechten. Ausserdem erwog das Mietgericht in Bezug auf den Eventualantrag, die dreissigtägige Anfechtungsfrist sei sowohl für den Anfangszins nach <ref-law> wie für einseitige Mietzinserhöhungen nach Art. 270b Abs. 1 und 2 OR nicht eingehalten, nachdem der Kläger am 14. April 2015 sowohl den neuen Mietvertrag wie auch das Formular zur Mitteilung des Anfangsmietzinses unterschrieben habe.
B.e. Das Obergericht des Kantons Zürich wies mit Urteil vom 6. Juli 2017 die dagegen erhobene Berufung des Mieters ab, soweit es darauf eintrat, und bestätigte das Urteil des Mietgerichts des Bezirksgerichts Andelfingen vom 17. November 2016. Das Obergericht qualifizierte den umstrittenen Mietvertrag vom 6. März/14. April 2015 im Unterschied zur ersten Instanz als neuen Vertrag. Das Obergericht liess offen, ob die Begründung zur Höhe des Anfangsmietzinses auf dem Formular genüge, da jedenfalls aufgrund der einlässlichen Verhandlungen unter den anwaltlich vertretenen Parteien die Berufung auf mangelnde Begründung rechtsmissbräuchlich wäre. Die Anfechtung des Anfangsmietzinses erfolgte nach Feststellung des Obergerichts sodann verspätet. Auch wenn die umstrittenen Mietbedingungen als Änderung eines bestehenden Mietverhältnisses angesehen würden, wäre die Berufung nach den Erwägungen des Obergerichts abzuweisen, da der Kläger nach einvernehmlicher Änderung auf Anfechtung verzichtet habe. Schliesslich folgte das Obergericht der Ansicht des Klägers nicht, dass das Mietgericht die massgebenden Mietzinse nicht hätte feststellen dürfen.
C.
Mit Beschwerde in Zivilsachen erneuert der Mieter sinngemäss seine Rechtsbegehren in Klage und kantonaler Berufung und verlangt subeventualiter, es sei die Sache im Sinne der Erwägungen an die Vorinstanz zurückzuweisen. Nach einer Darstellung des Sachverhalts aus seiner Sicht führt er aus, es seien drei Konstellationen zu unterscheiden, nämlich eine einseitige Vertragsänderung im Sinne von <ref-law>, eine konsensuale Mietzinserhöhung im laufenden Mietverhältnis und die Vereinbarung eines Anfangsmietzinses im Sinne von <ref-law>. Er bestreitet den Abschluss eines neuen Mietvertrags, bringt vor, er habe der Mietvertragsänderung nicht zugestimmt und nicht auf die Anfechtung verzichtet und die Verwendung des falschen Formulars mache die Mietzinserhöhung nichtig. Selbst wenn mit der Vorinstanz von einer Anfangsmiete auszugehen wäre, beruft sich der Beschwerdeführer auf Formnichtigkeit und behauptet, die 30-tägige Verwirkungsfrist sei eingehalten.
Der Beschwerdegegner beantragt in der Antwort die Abweisung der Beschwerde. Die Vorinstanz hat auf eine Vernehmlassung verzichtet.
D.
Mit Verfügung vom 25. Oktober 2017 wies die Abteilungspräsidentin das Gesuch um Erteilung der aufschiebenden Wirkung ab.

Erwägungen:
1.
Die Voraussetzungen für die Zulässigkeit der Beschwerde in Zivilsachen (<ref-law>) sind erfüllt und geben zu keinen Bemerkungen Anlass.
2.
Der Beschwerdeführer rügt, die Vorinstanz habe die Vereinbarung vom 6. März/14. April 2015 zu Unrecht als Abschluss eines neuen Mietvertrags qualifiziert.
2.1. Nach den Feststellungen der Vorinstanz wurde die Kündigung des am 23./27. Oktober 2003 abgeschlossenen Mietvertrags vom Beschwerdeführer und dessen Ehefrau bei der Schlichtungsstelle angefochten; dieses Schlichtungsverfahren wurde mit Ausstellung der Klagebewilligung an den Beschwerdeführer und dessen Ehefrau am 8. Juni 2015 beendet. Auch wenn der hier streitige Mietvertrag am 6. März/14. April 2015 noch während der Hängigkeit des Schlichtungsverfahrens über die Gültigkeit der Kündigung des Mietvertrags vom 23./27. Oktober 2003 unterzeichnet wurde, sei die per Ende Januar 2015 ausgesprochene Kündigung mangels Prosequierung des Verfahrens gültig. Beim Abschluss des hier strittigen Vertrags vom 6. März/14. April 2015 bestand daher nach den Erwägungen der Vorinstanz kein Mietverhältnis mehr, vielmehr schlossen die anwaltlich vertretenen Parteien einen neuen Vertrag.
2.2. Der Schluss der Vorinstanz, dass am 6. März/14. April 2015 ein neuer Mietvertrag zwischen dem Beschwerdeführer und dem Beschwerdegegner abgeschlossen wurde, ist bundesrechtlich nicht zu beanstanden. Entgegen der Ansicht des Beschwerdeführers wurde die Kündigung per Ende Januar 2015 mangels Anfechtung wirksam; die Voraussetzungen des Zahlungsverzugs hätten im Kündigungsschutzverfahren in Frage gestellt werden müssen, das der Beschwerdeführer und seine Ehefrau nicht weiterverfolgt haben. Es ist nicht nachvollziehbar, dass der Beschwerdeführer die Gültigkeit der ausserordentlichen Kündigung mit Aussicht auf Erfolg später noch hätte bestreiten können. Im Übrigen trifft zwar zu, dass nach der bundesgerichtlichen Praxis der formelle Abschluss eines neuen Mietvertrags im bestehenden Mietverhältnis unter denselben Parteien kein neues Mietverhältnis begründet (<ref-ruling> E. 3.1 S. 570; <ref-ruling> E. 2). Nach der Rechtsprechung liegt indessen bei dem (teilweisen) Wechsel der Mietvertragsparteien verbunden mit weiteren Vertragsanpassungen regelmässig ein neuer Mietvertrag vor (vgl. Urteile 4A_88/2013 vom 17. Juli 2013 E. 2.1-2.4; 4A_576/2008 vom 19. Februar 2009 E. 2.2; vgl. ferner <ref-ruling> E. 2b/bb; <ref-ruling> E. 2.4.3). Entgegen der Behauptung des Beschwerdeführers wurden im Mietvertrag vom 6. März/14. April 2015 nicht nur Mietzins, Nebenkosten und Sicherheitsleistung neu vereinbart. Vielmehr wurde darin nach den tatsächlichen Feststellungen im angefochtenen Entscheid auch neu festgehalten, dass es sich nicht um eine Familienwohnung handle. Die Ehefrau des Beschwerdeführers hat denn auch den Vertrag nicht mehr unterschrieben. Dass sie den früheren Mietvertrag nicht als Vertragspartei unterzeichnet habe, wie der Beschwerdeführer behauptet, ist den verbindlichen Feststellungen im angefochtenen Urteil (<ref-law>) nicht zu entnehmen. Die gegenteilige Behauptung vermag jedenfalls Willkür nicht zu begründen (vgl. Art. 97 Abs. 1 und Art. 105 Abs. 2 BGG; <ref-ruling> E. 2 S. 117).
3.
Fehlt die Begründung des Anfangsmietzinses, ist bei Formularpflicht die Vereinbarung über die Höhe des Mietzinses nichtig (Art. 270 Abs. 2 i.V.m. <ref-law>). Der Mieter kann demgemäss jederzeit auf richterliche Festsetzung des Anfangsmietzinses klagen, sofern er nicht rechtsmissbräuchlich handelt (<ref-ruling> E. 3.2 mit zahlreichen Hinweisen). Das gilt auch für eine unklare oder widersprüchliche Begründung, insoweit sie es dem Mieter verunmöglicht, die Tragweite der Erhöhung und die Prozessaussichten einer Anfechtung zu beurteilen (<ref-ruling> E. 3.2.2 und 3.3; <ref-ruling> E. 3b und 3c, 460 E. 4). Dem Beschwerdeführer ist insoweit zu folgen, als bei mehreren geltend gemachten Erhöhungsgründen eine jeweilige Ausweisung in Einzelbeträgen zu erfolgen hat (Art. 19 Abs. 1 lit. a Ziff. 4 i.V.m. Art. 19 Abs. 3 Verordnung über die Miete und Pacht von Wohn- und Geschäftsräumen vom 9. Mai 1990 [VMWG; SR 221.213.11]). Jedoch ergibt sich bereits aus dem Wortlaut der Formulierung "teilweise Anpassung an Orts- und Quartierüblichkeit gemäss aussergerichtlicher Vergleichsvereinbarung", dass die Mietzinserhöhung ausschliesslich aufgrund dieses absoluten Erhöhungsgrundes erfolgte. Die relativen Kostenfaktoren wie Referenzzinssatz, Teuerung und allgemeine Kostensteigerung wurden nur aufgeführt, um die Berechnungsgrundlagen für künftige Mietzinsanpassungen festzuhalten. Demnach kann die Begründung nicht beanstandet werden.
4.
Nach <ref-law> kann der Mieter den Anfangsmietzins innert 30 Tagen nach Übernahme der Sache bei der Schlichtungsbehörde unter gewissen Voraussetzungen als missbräuchlich anfechten. Der Beschwerdeführer war im Zeitpunkt der Unterzeichnung des Mietvertrags, den er gleichzeitig mit dem Formular "Mitteilung des Anfangsmietzinses anlässlich des Abschlusses eines neuen Mietvertrags" unterschrieben hat, bereits im Besitz der Mietsache. Die Vorinstanz ist zutreffend davon ausgegangen, dass die Frist für die Anfechtung des Anfangsmietzinses unter diesen Umständen spätestens mit dem Datum der Unterzeichnung des Mietvertrags mit dem entsprechenden Formular durch den Beschwerdeführer am 14. April 2015 begonnen hat. Dass die Frist am 19. Mai 2015 abgelaufen war, als der Beschwerdeführer an die Schlichtungsstelle gelangte, ist unbestritten. Dass der Beschwerdeführer vor der Vorinstanz Beweisanträge zum Datum der Unterzeichnung des Vertrags durch den Beschwerdegegner gestellt hätte, behauptet er im Übrigen selbst nicht. Es kann daher offen bleiben, ob dieser Zeitpunkt für den Fristbeginn erheblich sein könnte.
Die Anfechtung des Anfangsmietzinses bei der Schlichtungsstelle ist verspätet erfolgt. Auf das Begehren wäre nicht einzutreten gewesen. Der Beschwerde ist nicht zu entnehmen, inwiefern die Vorinstanz Bundesrecht verletzt haben könnte, indem sie die Feststellung des Mietgerichts schützte, wonach der Bruttomietzins per 1. März 2015 Fr. 655.--, per 1. Juli 2015 Fr. 847.-- und per 1. Oktober 2015 Fr. 1'047.-- beträgt.
5.
Die Beschwerde ist abzuweisen. Bei diesem Verfahrensausgang sind die Gerichtskosten dem Beschwerdeführer aufzuerlegen (<ref-law>). Er hat dem anwaltlich vertretenen Beschwerdegegner, der vorliegend anlässlich einer Mietzinsanfechtung nach Privatrecht und damit nicht in seinem Wirkungskreis im Sinne von <ref-law> obsiegte, dessen Parteikosten für das Verfahren vor Bundesgericht zu ersetzen (Art. 68 Abs. 1 und 2 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 2'500.-- werden dem Beschwerdeführer auferlegt.
3.
Der Beschwerdeführer hat dem Beschwerdegegner dessen Parteikosten für das bundesgerichtliche Verfahren mit Fr. 3'000.-- zu entschädigen.
4.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 27. November 2017
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Kiss
Der Gerichtsschreiber: Hug