Alfons var den andre av grev Raimund IV av Toulouse og hans tredje hustru Elvira av Castilla. Han ble født i Det hellige land og døpt i elven Jordan, noe som forklarer hans tilnavn. Hans far døde da Alfins var to år gammel. Alfons ble tatt vare på av sin slektning Wilhelm Jordan av Cerdange (død 1109) i Libanon.