Celts ble stiftet i 1910 som et semiprofesjonelt lag bestående i hovedsak av spillere fra Miami University i Oxford. Gjennom lagets ti første år fant de suksess mot andre semiprofesjonelle lag i Ohio. Et av lagets tidlige spillere, George Roudebush, beskrev laget som drevet av «en gjeng ville irer.» I 1914 spilte Lou Partlow for Celts.