95年，南匈奴参与了中原混战，东汉蔡邕之女蔡文姬被掳掠去匈奴。202年，南匈奴首领归附汉丞相曹操，蔡文姬归汉。216年，曹操拘留唿厨泉单于，而派右贤王去卑监国，并将南匈奴分成五部，安置在平阳郡。在唿厨泉单于死后，单于之位暂时虚悬。于夫罗子刘豹为左贤王，滞留在汉地，其子刘渊，由族人拥立继位为单于。内附的南匈奴，一直居住在河套一带，东汉末期曹操把匈奴分成五个部，即左、右、南、北、中，分别安置在陕西、山西、河北一带。各部贵者为帅，后改称都尉；以汉人为司马以监督。东汉末以来，周边各民族纷纷涌入中原。