Konjic startet sin karriere i Tuzla, og har senere spilt for mange forskjellige klubber. Først var han en sesong i Belisce, mens han fra august 1993 og fram til sommeren 1996 spilte for Zagreb. Hans neste proffopphold ble i sveitsiske FC Zürich, deretter var han to sesonger i Monaco. I januar 1999 kjøpte Coventry City Konjic for £2 000 000. Han debuterte i Premier League den 6. februar 1999 mot Tottenham Hotspur i en kamp som endte 0-0. Totalt ble det over 130 ligakamper i Coventry før han i mai 2004 gikk gratis til Derby County. Han debuterte for denne klubben den 11. september 2004 i en ligakamp mot Reading. Den siste delen av hans karriere var han mye plaget av skader, og hans eneste obligatoriske kamp for Derby County i 2005/06 sesongen var en kamp mot Grimsby Town i den engelske ligacupen den 24. august 2005.