Han tok over som trener for Cardiff 25. mai 2005 og i sin første sesong klarte de en respektabel plassering midt på tabellen i Football League Championship. Jones brukte sommeren 2006 til å bygge opp laget og de stiller nå et sterkt, talentfullt lag uten de store stjernene som ser ut til å gjøre det bra i ligaen i sesongen 2006 / 07.