Jimmy Walker accéda à la mairie de New York grâce au soutien de Al Smith et du Tammany Hall qui avait initialement soutenu son prédécesseur, John F. Hylan dans sa course à la mairie en 1917. Les premières années de son mandat furent prospères, et marquées par le développement de nombreux projets publics d'infrastructure. Cependant, son mandat fut également marqué par la multiplication des "speakeasies" en pleine Prohibition. Il fut réélu avec une large avance lors des élections municipales de 1929, en battant notamment le futur maire républicain Fiorello La Guardia et le socialiste Norman Thomas. La crise boursière de 1929 marqua cependant le début de son déclin, notamment du fait des critiques du cardinal Patrick Joseph Hayes pour qui son immoralité à la fois personnelle et politique et sa mansuétude par rapport aux revues pornographiques et aux casinos avaient contribué au déclin économique. Ce fut l'une des raisons pour lesquelles il perdit le soutien du Tammany Hall.