I likhet med resten av hjernen består cerebellum i grå substans (substantia griseus) og hvit substans (substantia alba). Grå substans er bygget opp av nevroner og kler hele cerebellum som cortex cerebelli. Dette tilsvarer oppbygningen av resten av storhjernen (cerebrum) hvor cortex cerebri er analog til cortex cerebelli. Imidlertid skiller cortex cerebelli seg ut ved å bestå i kun tre lag, mens cortex cerebri er delt i seks lag. Cortex cerebelli er også langt mere cellerik og homogent oppbygget enn cortex cerebri. Nevroanatomen Brodman kunne dele cerebrum inn i area basert på variasjoner i tykkelse på lagene og beskaffenheten til nevronene deri. Cortex cerebelli er imidlertid helt homogen og det er ikke grunnlag for tilsvarende oppdeling av cerebellums overflate i area.