"Handsome Gene", wie sein Spitzname war, war der Sohn einer irischen Mutter und eines deutschen Vaters. Zunächst war er von Beruf Violinenspieler am Columbia Theater auf der Powell Street sowie Präsident der Musikergewerkschaft, als Abe Ruef ihn auswählte, für die Union Labor Party für das Bürgermeisteramt zu kandidieren. Schmitz wurde 1902 als Nachfolger von James D. Phelan gewählt und war amtierender Bürgermeister, als San Francisco vom Erdbeben im Jahr 1906 zerstört wurde. Am Tag des Erdbebens, dem 18. April 1906 wollte Schmitz eine Auswahl bekannter Politiker und Geschäftsleute zusammenstellen, die ihm bei der Krisenbewältigung helfen sollten, aber er erhielt keine Unterstützung.