Byen har historie helt fra romertiden og man mener at det første katolske bispesetet i Spania lå i byen Acci, 5 km unna Guadix. Det ble etablert allerede i det andre århundre av vår tidsregning. Etter 711 fikk byen betydning som festning for maurerne, i denne tiden ble det også utviklet en stor silkeproduksjon her. Men i 1489 overga den seg til Spania under ledelse av Ferdinand og Isabella, de katolske monarkene.