部留居漠北，是为北匈奴，另一部南下附汉，称为南匈奴。

南匈奴尽管附汉，但毕竟“非我族类，其心必异”，其部中颇有一些不甘心向汉称臣的“鹰派”，当汉家强盛时，他们就老老实实的，而当汉家国力稍弱时，他们便趁机入寇掳掠，近几十年来，南匈奴多次入寇边塞，并和鲜卑多次联兵深入内地袭掠，黄巾乱后，汉家日渐动荡，这些“鹰派”於是就发动了政变，杀死了他们的单於羌渠，另立了一个单於。

於扶罗是羌渠