С 1995 года Казийски играл в молодёжной команде софийской «Славии», в 2000-м дебютировал в основном составе. В 2003 году защищал цвета молодёжной сборной Болгарии на чемпионате мира в Иране, где она показала лучший результат в истории, заняв 3-е место. Тем же летом Казийски провёл первые матчи за национальную сборную в розыгрыше Мировой лиги, а осенью отправился с командой на чемпионат Европы. В проходившем в Лейпциге стартовом матче европейского первенства со сборной России Казийски выходил на замену, набрал 4 очка, его команда уступила со счётом 1:3, однако позднее этот результат был аннулирован, а сам Матей получил дисквалификацию — как выяснилось, его фамилия не была внесена в первоначальную заявку болгарской сборной.