オハイオ州、シンシナティで生まれた。演劇に興味を持ち、俳優のジョセフ・ジェファーソン(Joseph Jefferson)の一座に入り、アマチュア画家でもあったジェファーソンに勧められて、美術を学ぶためにパリに渡り、アカデミー・ジュリアンに入学した。1885年になって、風景画家たちが集まったバルビゾンを訪れ、絵を描いた。3年後に印象派のスタイルの画家として、アメリカ合衆国に帰国した。1891年に新興の美術団体、米国芸術家協会（the Society of American Artists）の準会員に選ばれた。いくつかの展覧会に出展したが、その後画家としての創作活動は少なくなっていった。1898年から1908年の間、コネチカット州のグリニッジのコスコブ(Cos Cob)のいわゆる「コスコブ芸術コロニー」に滞在した。ここに集まった芸術家には画家のジョン・ヘンリー・トワックトマン、フレデリック・チャイルド・ハッサムや作家のウィラ・キャザーらが頻繁に訪れた人物であり、画家のアーサー・ボーウェン・デービス(Arthur Bowen Davies)やジョージ・ラクス(George Luks)、画家でアーモリーショーのオーガナイザーとなったウォルト・クーン(Walt Kuhn)らもコスコブを訪れた。1908年に、後に結婚することになるクララ・ポッター・デーヴィッジ(Clara Potter Davidge)と、ニューヨークのマジソン画廊(Madison Gallery)の経営を行うようになり、マジソン画廊は有名になっていた画家、ジョージ・ベローズやウォルト・クーンの展覧会や、次の世代の画家、ミラー(Richard E. Miller)、フレデリック・カール・フリージキーやグリーセン(Edmund Greacen)といった画家の展覧会も開いた。クーンらと、アメリカ画家・彫刻家協会（the Association of American Painters and Sculptors）を設立し、初代の会長となった。1912年にアーサー・デーヴィスを後任として会長職をやめたが、理事と事務局は続けた。この団体が、アメリカで最初の国際美術展覧会、アーモリーショーを開催した。この頃テイラーは創作を再開し、セザンヌの画風の作品を描いたが、1914年に出展した展覧会でフランスのキュビスムの画家、アルベール・グレーズの作品を知ってからキュビスムの作品を描くようになった。テイラーは、「シンクロニズム」を提唱したアメリカの抽象絵画の先駆者、モーガン・ラッセルやスタントン・マクドナルド＝ライトとも親しくなった。
実業家として成功していた浅野総一郎は、実学を身に付けた人材の育成が、産業化が進展した日本にとって重要な課題であることを痛感し、自らの資金で学校設立の希望を持っていた。1915年（大正4年）に米国の事情に精通した三井合名会社の団琢磨から、ゲーリー・システムという教育方法を聞いて関心を持った浅野は、1918年（大正7年）、同志社を辞任した水崎を東京三田札の辻の浅野邸に招き、米国の教育制度の調査を依頼した。同年5月、早速水崎は渡米し、米国各地を視察して廻り、シカゴの衛星都市で新興鉄鋼業都市のゲーリー市で実施されている、市教育長ウィリアム・ワートによって推進されたゲーリー・システムを調査研究した。水崎は直接ワートに会って説明を聞き、意見を交換している。ゲーリー市の公立学校は、1915年（大正4年）に書かれた、プラグマティズムを唱えた米国の哲学者・教育学者ジョン・デューイの『明日の学校 (Schools of Tomorrow)』で、当時米国各地で行われていた進歩主義教育の実践例として紹介されている。ゲーリー・システムに基づく学校は「二重学校 (duplicate school)」とも呼ばれ、都市化と移民の流入による生徒数の急増に対して、教科の学習以外の講堂、工作室等での特別活動やチームワークを覚え、心身の健康のために必要な運動や遊びに行っている間、空いた教室を別のクラスが使うように時間割を作ることによって、不足している教室を有効利用した。コミュニティーとしての学校の中心となる講堂は合唱や演劇、スライド・映画、文学作品の朗読、市各局をはじめ学内外の講師による講演等の様々な目的に使われた。また体育館、講堂など学校と、公会堂、劇場、コンサートホール、図書館、博物館等の市の施設を相互使用することによって公共性、市民性を養い、さらに勤労を重視し、学校に作った工場での木工、機械、電気、印刷等、学校の農園での農作物の栽培、そして簿記、速記、裁縫、調理等の分野を超えた多種多様な職業教育を導入した。無人の砂漠から急速に産業都市化したゲーリー市では30もの諸民族が集まり、中でも文化、生活水準が低い南欧や東欧の移民が大部分だったので、平等で公共心の高い、自立した米国市民を育てるためには、市民教育 (civics) に重きを置く、市と学校が一体となった教育制度が必要だった。水崎はゲーリー市に1ヶ月余り滞在し、ゲーリー・システムを調査研究し、次いでハーバード大学で聴講した後、1918年12月に帰国し、浅野に調査結果を報告した。浅野による横浜市の鶴見臨海部の埋め立て事業が1913年（大正2年）8月に始まり、鶴見から川崎にかけての京浜工業地帯には、1920年（大正9年）前後から朝鮮半島や沖縄を含め、日本全国から多くの労働者が移住して、短期間に急速に人口が増加したゲーリー市とよく似た状況になりつつあった。浅野は水崎の報告を聞きながら、日本経済が発展するためには、米国のcomprehensive high school（総合学科高等学校）のような学校が日本にも必要との思いを強くした。1919年（大正8年）に水崎は東京工業倶楽部で「ゲリー・システムの学校に就て」という演題で講演している。1920年（大正9年）、浅野は100万円の私財を投じて、ゲーリー・システムを取り入れた新たな中等教育を目指す浅野綜合中学校を、横浜市の京浜工業地帯を眼下に見渡す打越の丘に設立した。初代校長には水崎が就任した。水崎は「浅野綜合中学校設立趣意」に、「･･･志ス所ハ此教育界ノ欠陥ヲ補填シ大正ノ新時代ニ適応スル新教育ヲ施シ唯ニ智能ノ啓発ノミナラズ品性ヲ陶冶シ芸能ヲ実習シテ労働ノ神聖ヲ体現シ国民トシテ将タ人トシテ人生ノ意義ヲ完ウセシメント欲スルニアリ。若シ夫レ特色トシテハ体育ヲ励行シ相互扶助ノ共同生活ヲ勧奨シ工場ヲ設ケ科学教育ヲ実験的ニ施シ語学教育ヲ実用的ニナシ広キ綜合的ノ教育ヲ実践シテ常識アル有用ノ人材ヲ養成シ我国ノ中等教育ニ新生面ヲ開カンコトヲ期ス」と、決意を表明している。水崎は当時の中等教育の普通科は一般教養に傾き、高等教育への進学準備教育の感があり、他方で農・工・商の実業学校の職業教育は専門に分科し過ぎている実情に対して、大正デモクラシーの時代における階級対立のない平等な国の視野の広い中堅国民を育成するためには、教養科目と様々な分野の実学を併せ持った綜合教育を人格確立の上で最も重要な中等教育の時期に行う必要がある、と考えていた。