ヘンダーソン・バーンサイド
また、バーンサイドは日本のイングランド国教会の改宗者のための最初の教会の建設に尽力することとなる。バーンサイドは長崎の信徒にために、教会堂建築を計画したのであるが、当時の長崎の市街地は、講義所のための借屋も不可能であったので、教会堂の建築は簡単なものではなかった。そこで、外国人居留地である出島の中で、市街に出入りする橋のたもとに土地を確保した。この土地に小さな会堂の建築に着手したが、バーンサイドは病気となり、その完成を見ずに1875年(明治8年)4月17日に帰英することとなった。
大阪のエビントン師が、しばし長崎に滞留し、同1875年(明治8年)7月11日、日本で最初のCMSの教会「長崎出島教会」(日本人信徒のための聖公会最初の教会でもある)の献堂式が行われた。バーンサイドの後任者、ハーバート・モーンドレルも献堂式の数日前に英国より着任し、この喜びをともにしたのであった。
イギリスに帰国したバーンサイドは長く牧会に従事し、1903年(明治36年)に逝去した。
バーンサイド師の令嬢で長崎生まれのClara Law Burnsideは、父の志をついて女性宣教師として来日し、1897年(明治31年)以来、九州教区の長崎、福岡、小倉等で伝道に従事した。