Johannes ble født i landsbyen Fontiveros mellom Salamanca og Ávila i dagens region Castilla y León. Hans forelde var Gonzalo de Yepes og Catalina Alvarez, og Johannes var den yngste av tre sønner. Faren tilhørte en adelige familie fra Toledo, men var blitt utstøtt da han giftet seg med Catalina, som var en vevers datter. Han begynte derfor å arbeide som silkevever. Muligens var faren av jødisk opphav, men dette er uklart.