Det er bred enighet om at ekte fjorder som Hardangerfjorden i hovedsak har blitt skapt av isbreers erosjon av berggrunnen. Hardangerfjordens hovedløp følger retningen til sprekkene i den kaledonske foldingen som har styrt isbreenes erosjon. Mens Sognefjorden blir jevnt dypere fra terskelen mot Nordsjøen og fra de innerste fjordarmene, består Hardangerfjorden av flere basseng skilt av terskler. Det varierende dyp med flere terskler skyldes trolig varierende bergarter.