Северная Хань
Отец Лю Яо — Лю Люй — умер, когда тот был ещё молодым, и Лю Яо воспитывался у двоюродного брата покойного — Лю Юаня. Когда Лю Яо вырос, то стал известен своим мастерством в стрельбе из лука. Когда Лю Юань провозгласил себя правителем независимого государства Северная Хань, то Лю Яо стал одним из его основных генералов. В 307 году он вместе с Лю Цуном и Ван Ми совершил набег на Лоян, но был отбит. В 309 году он совершил ещё один набег, но был отбит снова.