"来源于"cerebrum"（脑）；也就是“小的脑”的意思。其拉丁文是古希腊文Παρεγκεφαλίς（"parencephalis"）的直译，亚里士多德在他的着作中使用了这个词，他是已知最早对小脑作描述的作家。中文里的词语“小脑”，最早出现于英国传教士合信氏1851年所着《医学五种》的《全体新论》中。书中也介绍了小脑的功能：“则小脑当动作之主矣”。