相隔的距离都不小，因此其分布范围可能一度非常广泛。巨鼠鲨的属名来自希腊文的 （"megas"，「大的」）与拉丁文的 （鼠鲨），是形容其可长达4.5公分的利齿。关于巨鼠鲨的牙齿最早在1960年代后期即有发现记录，当时日本古生物学家和鱼类学家上野辉弥将长野县阿南町出土的巨鼠鲨牙齿化石归类为耳齿鲨属（"Otodus"）。尔后的五十年间，巨鼠鲨的牙齿陆续在美国东岸的北卡罗莱纳州博福特、西岸加州的克恩，以及祕鲁的伊卡河流域被发现。这些牙齿曾被认为是鼠鲨属或短锥齿鲨属（"Brachycarcharias"）的牙齿，