La sociedad fue suprimida y Bilbao se refugió en la clandestinidad. Sus críticas a la religión católica, particularmente en sus "Boletines del espíritu" (1850), le costaron ser excomulgado. En el contexto del inicio de la Revolución de 1851, Bilbao tomó parte del fallido motín del 20 de abril de 1851, en Santiago. Huyó a Perú junto a su hermano Manuel, donde permaneció un tiempo antes de viajar a Europa por segunda vez (1855-57). Fue precisamente en este periodo en Europa donde se le reconoce haber sido el primer personaje en utilizar, en una de sus conferencias, el término de América Latina en París en 1856, para referirse a la parte del continente que componen América del Sur, América Central y México.