2012 wurde Yamazaki zum Nachfolger von Hidehisa Otsuji als Vizepräsident des Sangiin gewählt, nach dem LDP-Sieg bei der Sangiin-Wahl 2013 zum Präsidenten der Kammer – nach sechs Jahren, in denen die Demokratische Partei stärkste Kraft im Sangiin gewesen war und den Präsidenten gestellt hatte. Wie die meisten Sangiin-Präsidenten und -Vizepräsidenten war er von 2012 bis 2016 fraktionslos.