Arlon är en av Belgiens äldsta städer. Den hette under romersk tid "Orolaunum Vicus", och det finns fortfarande många romerska ruiner kvar i staden. Arlon var tidigare befäst. Den 17 april 1794, under Franska revolutionskrigen, besegrade den franske generalen Jean-Baptiste Jourdan österrikarna i ett slag vid staden.