Det vites ikke meget om Johannes IX før han ble pave. Han var sønn av en Rompoald. Man kjenner ikke til når han var fødtd, eller den nøyaktige dato han ble pave. Han ble ordinert prest i benediktinerordenen av pave Formosus. Med støtte fra en mektig familie fra Spoleto ble han valgt til pave i begynnelsen av 898, etter pave Teodor IIs tidlige død.