I 1839 aksepterte han en invitasjon fra biskop John Baptist Purcell om å tilslutte seg bispedømmet Cincinnati i Ohio i USA, og ankom dit i oktober 1840. Han ble sendt til Chillicothe for å lære engelsk hos den lærde William Marshall Anderson. Biskop Purcell utnevnte ham til sogneprest i i Toledo. Fader Rappe tjente de katolske arbeiderne som var med på å bygge Miami and Erie Canal og nybyggerne langs elven Maumee; hans uoffisielle sognegrenser strakte seg fra Toledo til Indiana-grensen og så langt sør som Allen County.