Allen var opprinnelig matematikklærer på , og skulle jobbe i IBM bare en tid for å betale ned studielånet sitt. Tidlig på 1980-tallet startet hun Parallel TRANslation (PTRAN)-gruppen for å studere problemstillinger innenfor kompilering for parallelle datamaskiner. Hennes gruppe ble regnet som blant de fremste i verden i dette fagfeltet. Hennes arbeid med algoritmer og teknologier la grunnlaget for dagens arbeid med kommersielle kompilatorer.