El 29 de juliol de 1853 el papa beat Pius IX creà l'arxidiòcesi de San Francisco, i Josep Alemany en fou nomenat el primer arquebisbe. Aquella arxidiòcesi abastava un territori immens: la part de l'actual estat de Califòrnia al nord de la badia de Monterey i els actuals estats de Nevada i Utah. La situació demogràfica també hi era complicada, perquè les onades migratòries de la "Febre de l'or de Califòrnia" havia provocat que sorgissin espontàniament diverses parròquies per als catòlics de diverses nacionalitats: mexicans, italians, irlandesos, alemanys, francesos... Josep Alemany hi va promoure la instal·lació de diversos ordes i congregacions religioses, entre elles la dels jesuïtes que hi fundaren la Universitat de Santa Clara, tothora existent. Ell mateix, en unió del seu company d'estudis fra Francesc Sadoc Vilarrasa i Costa, va propiciar el 1858 la creació de la Província Dominicana del Sant Nom de Jesús, que comprèn l'oest dels Estats Units. Atès que es volia captenir més directament en l'activitat missionera, havia sol·licitat diversos cops un bisbe coadjutor, que no li fou concedit fins al 1883. L'any següent, tanmateix, dimití de l'arquebisbat. El papa Lleó XIII el nomenà arquebisbe titular de Pelusium i ell retornà a Catalunya, passant a residir al convent dominicà de Vic.