Posteriormente comenzó a trabajar en casos relacionados con Al Qaeda y Osama bin Laden, llegando a investigar su relación con los atentados de 1996 en Al Kobhar (Arabia Saudí) y en el 2000 contra el USS "Cole". Por fricciones personales que tuvo en su etapa del FBI con el gobierno federal, O'Neill abandonó el cuerpo en 2001. Ese año se convirtió en jefe de seguridad del World Trade Center, donde murió a los 49 años como víctima de los atentados del 11 de septiembre. O'Neill se encontraba en la Torre Sur, la primera en derrumbarse.