Sachverhalt: A. A.a. A._ (Mieter, Kläger, Beschwerdeführer) wohnte seit Mitte 1995 mit seiner Familie an der Strasse X._ in U._, wo er innerhalb der Liegenschaft dreimal umzog. Vermieter ist der Kanton Zürich (Vermieter, Beklagter, Beschwerdegegner). A.b. Am 23./27. Oktober 2003 schlossen der Mieter und seine Ehefrau (zur Zeit in Scheidung) mit dem Vermieter per 1. November 2003 einen neuen Mietvertrag über eine 4-Zimmer-Wohnung zu einem monatlichen Mietzins von Fr. 419.-- netto bzw. Fr. 633.-- brutto. Ab 1. Mai 2011 wurde der Bruttomietzins auf Fr. 655.-- erhöht. A.c. Am 22. Dezember 2014 kündigte der Vermieter den Mietern die Wohnung wegen Zahlungsverzugs auf den 31. Januar 2015. Die Mieter gelangten an die Schlichtungsbehörde des Bezirksgerichts Andelfingen und beantragten die Feststellung, dass die Kündigung unwirksam sei, eventuell sei die angefochtene Kündigung für ungültig zu erklären. A.d. Am 6. März/14. April 2015 schlossen der Mieter und der Vermieter einen neuen Mietvertrag über die 4-Zimmer-Wohnung mit Beginn ab 1. März 2015 ab, worin festgehalten wurde, dass es sich nicht um eine Familienwohnung handle. Der Nettomietzins wurde auf monatlich Fr. 619.-- festgesetzt, der Bruttomietzins auf Fr. 1'047.--. Dieser Mietzins sollte ab Oktober 2015 gelten, während für die Zeit vom 1. März bis 30. September 2015 eine Reduktion vereinbart wurde. Der Mieter hatte Sicherheit zu leisten. Die Vermieterin legte dem Mietvertrag ein Formular "Mitteilung des Anfangsmietzinses anlässlich des Abschlusses eines neuen Mietvertrags" bei. Der Mieter bestätigte am 14. April 2015 den Erhalt der Unterlagen. B. B.a. Mit Eingabe vom 19. Mai 2015 focht der Mieter den Mietzins bei der zuständigen Schlichtungsbehörde an und verlangte, (1) es sei festzustellen, dass die im Mietvertrag vom 6. März 2015 bzw. 14. April 2015 vereinbarte Erhöhung des monatlichen Nettomietzinses und der monatlichen Nebenkosten sowie der Änderung der Pauschal- und Akontobeträge (Allgemeinstrom, Kehrichtgebühren) nichtig seien; (2) es sei festzustellen, dass der Anfangsmietzins missbräuchlich sei. Dieser sei auf das zulässige Mass herabzusetzen. B.b. Am 8. Juni 2015 fand in beiden Verfahren (Anfechtung der Kündigung vom 22. Dezember 2014 und Mietzinsanfechtung) eine Schlichtungsverhandlung statt. Da keine Einigung zustandekam, wurden dem Mieter die Klagebewilligungen erteilt. Die Klagebewilligung betreffend die Anfechtung der Kündigung liessen der Mieter und seine Ehefrau in der Folge verfallen. B.c. Mit Eingabe vom 31. August 2015 reichte der Mieter beim Mietgericht des Bezirksgerichts Andelfingen Klage ein mit den Rechtsbegehren: "1. Es sei festzustellen, dass die vom Beklagten mit amtlichem Formular vom 6. März 2015 resp. 14. April 2015 erklärte Erhöhung des monatlichen Nettomietzinses von Fr. 419.-- auf Fr. 619.-- nichtig sei; 2.es sei festzustellen, dass die vom Beklagten mit amtlichem Formular vom 6. März 2015 per 1. März 2015 erklärten einseitigen Vertragsänderungen betreffend die separat zum Nettomietzins geschuldeten Nebenkosten nichtig seien; 3.es sei festzustellen, dass die Vereinbarung gemäss Ziffer 8 des Mietvertrages vom 6. März 2015 per 1. März 2015 betreffend Sicherheitsleistung im Betrag vom Fr. 3'141.-- nichtig sei; 4.eventualiter sei festzustellen, dass die vom Beklagten mit amtlichem Formular vom 6. März 2015 per 1. März 2015 erklärte Mietzinserhöhung und die einseitigen Vertragsänderungen betreffend Nebenkosten missbräuchlich seien und der Nettomietzins sei per 1. März 2015 auf Fr. 419.-- sowie die separat geschuldeten Nebenkosten seien wie folgt herabzusetzen: Strom allgemein Fr. 4.-- pauschal, Wasser- und Abwassergebühren Fr. 62.-- pauschal und Heizkosten Fr. 170.-- akonto; unter Kosten- und Entschädigungsfolgen (zuzügl. MwSt.) zu Lasten des Beklagten." B.d. Das Mietgericht wies die Klage mit Urteil vom 17. November 2016 vollumfänglich ab und stellte fest, dass per 1. März 2015 ein Bruttomietzins von Fr. 655.--, per 1. Juli 2015 ein Bruttomietzins von Fr. 847.-- und per 1. Oktober 2015 ein Bruttomietzins von Fr. 1'047.-- Gültigkeit hat. Das Mietgericht kam zunächst zum Schluss, die umstrittenen Mietvertragsbedingungen seien nach einlässlichen Vergleichsgesprächen nach bereits ausgesprochener Kündigung während eines hängigen Schlichtungsverfahrens zustandegekommen und der während dieser Verhandlungen anwaltlich vertretene Kläger habe danach auf die Formularpflicht gültig verzichtet und könne nun auch die ohne Mitteilung auf dem Formular vereinbarten Änderungen nicht anfechten. Ausserdem erwog das Mietgericht in Bezug auf den Eventualantrag, die dreissigtägige Anfechtungsfrist sei sowohl für den Anfangszins nach Art. 270 Abs. 1 OR wie für einseitige Mietzinserhöhungen nach Art. 270b Abs. 1 und 2 OR nicht eingehalten, nachdem der Kläger am 14. April 2015 sowohl den neuen Mietvertrag wie auch das Formular zur Mitteilung des Anfangsmietzinses unterschrieben habe. B.e. Das Obergericht des Kantons Zürich wies mit Urteil vom 6. Juli 2017 die dagegen erhobene Berufung des Mieters ab, soweit es darauf eintrat, und bestätigte das Urteil des Mietgerichts des Bezirksgerichts Andelfingen vom 17. November 2016. Das Obergericht qualifizierte den umstrittenen Mietvertrag vom 6. März/14. April 2015 im Unterschied zur ersten Instanz als neuen Vertrag. Das Obergericht liess offen, ob die Begründung zur Höhe des Anfangsmietzinses auf dem Formular genüge, da jedenfalls aufgrund der einlässlichen Verhandlungen unter den anwaltlich vertretenen Parteien die Berufung auf mangelnde Begründung rechtsmissbräuchlich wäre. Die Anfechtung des Anfangsmietzinses erfolgte nach Feststellung des Obergerichts sodann verspätet. Auch wenn die umstrittenen Mietbedingungen als Änderung eines bestehenden Mietverhältnisses angesehen würden, wäre die Berufung nach den Erwägungen des Obergerichts abzuweisen, da der Kläger nach einvernehmlicher Änderung auf Anfechtung verzichtet habe. Schliesslich folgte das Obergericht der Ansicht des Klägers nicht, dass das Mietgericht die massgebenden Mietzinse nicht hätte feststellen dürfen. C. Mit Beschwerde in Zivilsachen erneuert der Mieter sinngemäss seine Rechtsbegehren in Klage und kantonaler Berufung und verlangt subeventualiter, es sei die Sache im Sinne der Erwägungen an die Vorinstanz zurückzuweisen. Nach einer Darstellung des Sachverhalts aus seiner Sicht führt er aus, es seien drei Konstellationen zu unterscheiden, nämlich eine einseitige Vertragsänderung im Sinne von Art. 269d OR, eine konsensuale Mietzinserhöhung im laufenden Mietverhältnis und die Vereinbarung eines Anfangsmietzinses im Sinne von Art. 270 OR. Er bestreitet den Abschluss eines neuen Mietvertrags, bringt vor, er habe der Mietvertragsänderung nicht zugestimmt und nicht auf die Anfechtung verzichtet und die Verwendung des falschen Formulars mache die Mietzinserhöhung nichtig. Selbst wenn mit der Vorinstanz von einer Anfangsmiete auszugehen wäre, beruft sich der Beschwerdeführer auf Formnichtigkeit und behauptet, die 30-tägige Verwirkungsfrist sei eingehalten. Der Beschwerdegegner beantragt in der Antwort die Abweisung der Beschwerde. Die Vorinstanz hat auf eine Vernehmlassung verzichtet. D. Mit Verfügung vom 25. Oktober 2017 wies die Abteilungspräsidentin das Gesuch um Erteilung der aufschiebenden Wirkung ab.