Celts var originalt ikke invitert til å bli med i APFA da ligaen ble stiftet i 1920. De aksepterte en invitasjon året etter, men var ikke på samme nivå som lagene i ligaen og slapp inn 117 poeng mot kun 14 i løpet av de første fire ligakampene. Lagets to touchdowns og eneste seier kom i en 14–0 seier over Muncie Flyers. Celts møtte også ligamestrene Akron Pros, Cleveland Tigers og Evansville Crimson Giants, og tapte soleklart i hver kamp. Celts trakk seg ut av ligaen i 1922, like før den endret navn til National Football LEague. I flere år var Celts oppført i NFLs resultatbøker med et sammenlagtresultat på 0–8–0 i APFA, noe som ble endret etter en gjennomgang av samtidskilder.