Bibo est né à Brakel, en Westphalie, qui faisait alors partie du royaume de Prusse, d'Isak et de Blümchen Bibo; son père est chantre. Il est le sixième de onze enfants. Après la suppression du gouvernement libéral au milieu du XIXe siècle, ses frères aînés Nathan et Simon partirent pour les États-Unis en 1866. Il finit par les rejoindre, déménageant le 16 octobre 1869 à l'âge de 16 ans. Il est arrivé à New York et, après avoir passé du temps à apprendre l'anglais sur la côte est, il a déménagé pour rencontrer ses frères à Santa Fe, qui faisait alors partie du territoire du Nouveau-Mexique. Ses frères s'étaient établis comme commerçants, utilisant initialement le capital fourni par la famille Spiegelberg, une famille juive pionnière arrivée avec l'armée de Stephen W. Kearny pendant la guerre américano-mexicaine. Les frères Bibo ont pu établir des magasins à Laguna, Fort Wingate, Cebolleta, Bernalillo et Grants. Les frères ont appris plusieurs langues amérindiennes en plus de l'allemand, du yiddish et de l'anglais.