Lite er kjent om guteernes opprinnelse, materielle kultur eller språk. Samtidige kilder har gitt få detaljer og ingen særskilte gjenstander har blitt positivt identifisert. Da det finnes ingen tekster, bortsett fra personnavn, er det ikke mulig å verifisere dets språk opp mot andre. Navnene på gutisk-sumeriske konger antyder at språket ikke var nært beslektet til andre språk i regionen, inkludert sumerisk, akkadisk, hurrittisk, hettittisk og elamittisk.