Jimmy Murphy kam im September 1894 in einem Einwandererviertel von San Francisco zur Welt. Seine Eltern waren von Irland nach Kalifornien ausgewandert und betrieben eine Post- und Pferdestation mit angeschlossenem Futterhandel. Seine Mutter "Margret Murphy, geb. Moran", starb, als er zwei Jahre alt war. Weil sein Vater "James" mit der Erziehung überfordert war, kam er zur Familie dessen Cousins. Sein Vater kümmerte sich nicht mehr um den Jungen und verschwand mehr oder weniger aus dessen Leben. Er starb beim Erdbeben von San Francisco 1906. Jimmy Murphy wohnte bei "Thomas Murphy", dessen Frau "Chaterine" und ihren fünf leiblichen Kindern in dem vom Erdbeben weitestgehend verschont gebliebenen Hayes Valley. "Thomas Murphy" war von 1910 bis zu seinem Tod 1929 Chef der städtischen Feuerwehr von San Francisco. Auch Jimmy Murphys Vater arbeitete als Feuerwehrmann.