Die ersten Juden in Japan waren Alexander Marks und sein Bruder, die sich in Yokohama im Jahre 1861 niederließen, gefolgt vom amerikanischen Geschäftsmann Raphael Schover, der neben seiner Handelstätigkeit Herausgeber des "Japan Express", der ersten fremdsprachigen Zeitung in Japan, wurde. Die ersten Juden kamen hauptsächlich aus Polen, den Vereinigten Staaten und England. Im Jahre 1895 eröffnete die kleine Gemeinde Yokohamas, die bis dahin aus etwa 50 Familien bestand, die erste Synagoge in Japan. Nach dem Ersten Weltkrieg (1914–1918) gab es nur wenige tausend Juden in Japan, über die der Großteil der japanischen Bevölkerung nichts wusste. Viele nahmen das Judentum als christliche Sekte wahr. Ein Teil dieser Gemeinde zog nach dem Großen Kantō-Erdbeben 1923 nach Kōbe. Trotzdem ist auch heute noch Yokohama eine wichtige Drehscheibe des japanischen jüdischen Lebens.