Føderasjonens geografiske beliggenhet i kjerneområdet for altaiske språk, har forårsaket hypoteser om at de snakket et tyrkisk eller mongolsk språk. Det finnes også hypoteser om at Xiongnu snakket et iransk språk. Kinesiske skribenter har bevart en setning fra språket til Xiongnu-stammen Jie. Transkripsjonen gir ingen mening på tyrkisk eller mongolsk, men tyder på at stammen snakket et utdødd språk innenfor den jenisejiske språkfamilien.