Sachverhalt: A. A._ führt gegen einen Entscheid des Kantonsgerichts Zug betreffend die Abänderung von Kinderalimenten Berufung am Obergericht des Kantons Zug (Verfahren Z1 2017 10). Die Gegenpartei wird von Rechtsanwältin Monika Kocherhans, angestellt im Advokaturbüro Huber & Hausherr in Zug, vertreten. Partner in dieser Kanzlei sind die Rechtsanwälte Stephan Huber und Matthys Hausherr. Bei Ersterem handelt es sich um den Bruder, bei Letzterem um einen Freund von Oberrichter Peter Huber, welcher als Abteilungspräsident der I. Zivilabteilung das Berufungsverfahren leitet. B. Mit Eingabe vom 6. Juni 2017 an das Obergericht beantragte A._ den sofortigen Ausstand von Oberrichter Peter Huber und die Zuteilung der Prozesssache an ein anderes Mitglied des Oberrichtergremiums zur weiteren Fortführung. Begründet wurde das Ausstandsgesuch mit der Entdeckung der Verwandtschaft zwischen Oberrichter Peter Huber und Rechtsanwalt Stephan Huber. Oberrichter Peter Huber nahm am 13. Juni 2017 zum Gesuch Stellung und verneinte die Notwendigkeit seines Ausstands. Rechtsanwältin Monika Kocherhans äusserte sich in ihrer Eingabe vom 26. Juni 2017 im selben Sinne. Das Obergericht wies das Ausstandsgesuch ab. Sein Beschluss vom 5. September 2017 wurde A._ am 8. September 2017 zugestellt. C. Mit Beschwerde vom 25. September 2017 wendet sich A._ (Beschwerdeführer) an das Bundesgericht. Er hält an seinem Ausstandsbegehren fest und verlangt, die Kosten des vorinstanzlichen Teilverfahrens neu zu verlegen. Im Obsiegensfalle sei er von amtlichen Kosten zu befreien und ihm eine angemessene ausserrechtliche Entschädigung zuzusprechen, alles unter Kosten- und Entschädigungsfolgen. Das Bundesgericht hat die kantonalen Akten eingeholt. Das Obergericht beantragte mit Vernehmlassung vom 8. Juni 2018 die Abweisung der Beschwerde. Oberrichter Peter Huber verwies mit Eingabe vom 11. Juni 2018 auf seine Stellungnahme vom 13. Juni 2017 sowie den angefochtenen Beschluss. Rechtsanwältin Monika Kocherhans beantragte am 29. August 2018 sinngemäss die Abweisung der Beschwerde. Darauf replizierte der Beschwerdeführer am 7. September 2018. Am 25. Oktober 2018 hat das Bundesgericht die Sache öffentlich beraten.