O'Brien begynte sin fotballkarriere hos Bradford City i 1994. Fra 1996 til 2001 spilte han over 130 seriekamper i forsvaret til Bradford City, før han i mars 2001 forlot klubben til fordel for Newcastle United på en overgangssum verdt to millioner pund. Der spilte han 116 seriekamper og scoret seks seriemål før turen gikk videre til Portsmouth for samme overgangssum.