在日本的起源最迟至少可追溯至绳文时代，而自其后的古坟时代开始已成为权势的象征之一。天皇三神器中的八坂琼曲玉即为勾玉。在朝鲜半岛，曲玉在一些新石器时代及青铜时代考古遗址皆有发现，常见于支石墓作为陪葬，曲玉在当时是权力和名望的象征。当地最着名的曲玉是三国时代新罗国王的金王冠、耳环、项链、腰带等镶着的曲玉，新罗、百济的君主都有以曲玉作为陪葬品。由于朝鲜半岛新石器时代及青铜时代与日本绳文时代的年代重叠，因此考古学界对勾玉的起源地存在争议。在琉球，祝女也会佩戴勾玉。