I 953 sendte keiser Otto I ham som sendemann til kalifen av Córdoba, Abd ar-Rahman III. Han skulle være der i tre år. Johannes reiste via Langres, Dijon, Lyon, Avignon, Barcelona, Tortosa og Zaragoza. Målet for utsendelsen var å få slutt på angrep som andalusiske eventyrere fra Fraxinet og arabiske sjørøvere holdt på med. Johannes kom frem til Córdoba i 953 eller 954 med sitt følge og overrakte kalifen et brev fra keiser Otto og verdifulle gaver. Kalifens ambassadør, Hasdai ibn Shaprut, var den som møtte utsendingen. Kalifen hadde selv gitt Hasdai oppdraget å stå for forhandlingene, idet han fryktet at den tyske herskers skriv kunne inneholde nedsettende ord om islam (ifølge en annen versjon satt Johannes derfor en tid i fengsel). Hasdai kom til den konklusjon at det ikke lot seg gjøre å overbringe skrivet til kalifen i dets opprinnelige form, og overbeviste utsendingene om at de måtte be om et nytt brev fra keiseren, uten anstøtgivende formuleringer. Johannes rapporterte senere at han «aldri hadde truffet et menneske med en slik forstand som jøden Hasdeu».