Караимское кладбище возникло по настоянию караимской общины Севастополя в середине XIX века, после Крымской войны в 1856 году. Во время исследований кладбища выявлено, что первая из прочитанных датировок захоронение относится к 1863 году. В начале XX века на деньги караимского мецената Иосифа Бурназа был построен дом для охраны кладбища и проведения обрядов караимами. Эти помещения снесены в 1999 году при строительстве ТЭС. Впервые кладбище добавлено в генеральный план Севастополя в 1887 году. Землетрясение 12 сентября 1927 года, а потом и сильный ливень в сентябре 1928 года нанесли значительные повреждения, некоторые надгробья так и не были восстановлены. Кладбище было закрыто 1 марта 1965 года. 11 ноября 2010 года вандалы осквернили караимское кладбище Севастополя. По состоянию на 2015 год караимское национальное кладбище находится в запущенном состоянии.