I førkolumbisk tid var området rundt Huancayo befolket av wankafolket (huancafolket) som er en undergruppe av quechuafolket. Omkring år 500 e.kr. ble området en del av Wari-riket. I 1460 ble Wari-riket beseiret av inkaene ledet av Pachacuti og innlemmet i inkariket. Inkaene bygde et nettverk av veier, og Huancayo ble liggende ved Camino Real - en av hovedveiene. I 1533 ble inkariket beseiret av spanske conquistadorer hjulpet av innfødte stammer som inkaene hadde underlagt seg tidligere (deriblant wankafolket). Huancayo ble offisielt erklært som bosettingen 1. juni 1572 av Don Jerónimo de Silva.