Det var trolig en gang i steinalderen at de første slo seg ned på gården. Det er gjort funn av vestlandsøks, flere steinklubber, ei skaftholeøks og en gryte av kleberstein i grunnen på Hjøllo. Disse funnene er i dag i arkivsamlingen på Bergen Museum. Også andre ting kan tyde på at Hjøllo er en gammel gård i Odda ettersom i den første matrikkelen der garden er oppført står Hjøllo som . Hjøllo er først gang nevnt i et diplom av 28. april 1410, i 1615 er garden delt på flere personer, både i og utenfor Hardanger. I 1630 ble gården delt i to gårdsbruk, og fra 1786 ble gården delt i fire bruk.