单于由挛鞮氏世袭,总览大权,由左右骨都侯辅政,骨都侯由贵族呼衍氏、兰氏、须卜氏担任,呼衍氏居左,兰氏须卜氏居右。
单于以下为左右贤王,为地方最高长官,匈奴以左为尊,故左贤王权力地位高于右贤王,左贤王是单于副储,因此经常以太子为左贤王。
左贤王一下为左右谷蠡王,左右谷蠡王以下依次为左右大将、左右大都尉、左右大当户。