Hans hjemby var Alabanda i Anatolia, og han hadde vært elev av Menekles. Som ambassadør for Rhodos besøkte han to ganger Roma. Han dyrket en «attikiserende» stil og skrev om Homer. Ifølge Josefus skal Apollonios ha vært svært fiendtlig innstilt til jøder. Julius Cæsar dro til Rhodos for å bli undervist av Apollonios som også hadde Cicero blant sine elever.