Oxyrhynchus ligger vest for Nilens hovedløp og ved Bahr Yussef («Josefs kanal»), en sidegren av Nilen som ender i innsjøen Moeris (dagens Birkat al-Qarun) og oasen Faiyum. I Egypts oldtid var det en by på stedet som ble kalt for Per-Medjed som var hovedstad for 19. nome i Øvre Egypt. Etter erobringen av Egypt av Aleksander den store i 332 f.Kr. ble byen etablert på nytt som en gresk by, som da ble hetende (Οξυρρύγχου Πόλις, «Byen med de skarpsnutede fisk»).