Jan mladší z Rabštejna se rozhodl pro stav duchovní a po vysvěcení získal nejprve faru v Českých Budějovicích. Dále začal studovat v Římě, kde se stal doktorem práv (některé prameny uvádějí v "Bonnonii", tedy Bologna), apoštolským protonotářem a kanovníkem u sv. Víta. Litoměřickým proboštem jej jmenoval papež v roce 1447, protože jeho předchůdce Jakub z Nymburka v Římě zemřel. Podle tehdejších církevně právních předpisů náleželo jmenování litoměřického probošta za těchto okolností přímo papeži. Jeho bratr Prokop z Rabštejna byl v letech 1453-1463 nejvyšším kancléřem a oddaným stoupencem krále Jiřího z Poděbrad. Měl přímý vztah k Aeneáši Sylviovi Piccolominimu, s nímž vyjednával přípravy k basilejskému koncilu, za jehož přípravu byl odměněn.