Procopius, Johannes av Ephesos, og andre samtidige historikere har nevnt hans invasjon av Jemen fra rundt 520 mot den jødiske Himjarrikets kong Yusuf Asar Yathar (også kjent som Dhu Nuwas), som forfulgte kristne i sitt kongedømme. Etter mye krigføring skal Kalebs soldater til sist ha slått Yusefs styrker og drept kongen, og således gjort det mulig for Kaleb til å utpeke Sumuafa' Ashawa', en innfødt kristen (kalt for «Esimphaios» av Procopius) som sin visekonge av Himjarriket. Som et resultat av hans beskyttelse av de kristne er han kjent som etter at den italienske kardinal Caesar Baronius hadde lagt ham til sin utgave av den katolske martyrfortegnelse, til tross for at han var monofysitt og således en kjetter i katolske øyne.